Utmaningar och risker med AI

  • 3 minuter

Artificiell intelligens är ett kraftfullt verktyg som kan användas för att gagna världen avsevärt. Men precis som alla verktyg måste det användas på ett ansvarsfullt sätt.

I följande tabell visas några av de potentiella utmaningar och risker som en AI-programutvecklare står inför.

Utmaning eller risk Exempel
Bias kan påverka resultat En modell för godkännande av lån diskriminerar efter kön på grund av bias i de data som den har tränats med
Fel kan orsaka skada Ett autonomt fordon upplever ett systemfel och orsakar en kollision
Data kan exponeras En medicinsk diagnostikrobot tränas med känsliga patientdata, som lagras osäkert
Lösningar kanske inte fungerar för alla En hemautomatiseringsassistent ger inga ljudutdata för synskadade användare
Användarna måste lita på ett komplext system Ett AI-baserat finansiellt verktyg ger investeringsrekommendationer – vad baseras de på?
Vem ansvarar för AI-drivna beslut? En oskyldig person döms för ett brott baserat på bevis från ansiktsigenkänning – vem är ansvarig?