Výzvy a rizika související s AI
Umělá inteligence je výkonný nástroj, který přináší výhody ve všech oblastech našeho života. Jako každý nástroj ale musí být používán odpovědně.
Následující tabulka ukazuje některé z možných problémů a rizik, kterým čelí vývojář aplikací AI.
| Výzva nebo riziko | Příklad |
|---|---|
| Předpojatost může ovlivnit výsledky | Model schválení půjčky diskriminuje pohlaví kvůli předsudkům v datech, se kterými byl vytrénován |
| Chyby můžou způsobit škodu | U autonomního vozidla dojde k selhání systému a způsobí kolizi |
| Data můžou být vystavena | Lékařský diagnostický robot je vytrénovaný pomocí citlivých dat pacientů, která jsou uložena nezabezpečeně. |
| Řešení nemusí fungovat pro všechny | Pomocník pro domácí automatizaci neposkytuje nevidomým uživatelům žádný zvukový výstup |
| Uživatelé musí důvěřovat složitému systému. | Finanční nástroj založený na umělé inteligenci vytváří investiční doporučení – na čem jsou založená? |
| Kdo nese odpovědnost za rozhodnutí založená na umělé inteligenci? | Nevinná osoba je odsouzena za trestný čin na základě důkazů z rozpoznávání obličeje – kdo je zodpovědný? |