Vysvětlení zodpovědné umělé inteligence
Ve společnosti Microsoft se vývoj softwaru umělé inteligence řídí sadou šesti principů, jejichž cílem je zajistit, aby aplikace umělé inteligence poskytovaly úžasná řešení složitých problémů bez jakýchkoli nezamýšlených negativních důsledků.
Spravedlnost
Systémy umělé inteligence by se měly ke všem lidem chovat spravedlivě. Předpokládejme například, že vytvoříte model strojového učení pro podporu žádostí o schválení půjčky pro banku. Model by měl předpovědět, jestli má být půjčka schválena nebo zamítnuta bez předsudků. Tento předsudk by mohl být založen na pohlaví, etnické příslušnosti nebo jiných faktorech, které vedou k nespravedlivé výhodě nebo nevýhodě konkrétních skupin žadatelů.
Jednou ze schopností Azure Machine Learning je schopnost interpretovat modely a kvantifikovat rozsah, v jakém každá vlastnost (atribut) dat ovlivňuje predikci modelu. Tato schopnost pomáhá datovým vědcům a vývojářům identifikovat a zmírnit zaujatost v modelu.
Dalším příkladem je implementace zodpovědné umělé inteligence Microsoftu se službou Rozpoznávání tváře, která vyřadí funkce rozpoznávání obličeje, které se dají použít k odvozování emocionálních stavů a atributů identity. Tyto schopnosti, pokud jsou zneužity, mohou podléhat stereotypům, diskriminaci nebo nespravedlivému odepření služeb.
Další podrobnosti o tom, co je potřeba vzít v úvahu z hlediska spravedlnosti, najdete v následujícím videu.
Spolehlivost a zabezpečení
Systémy umělé inteligence by měly fungovat spolehlivě a bezpečně. Představte si třeba softwarový systém založený na umělé inteligenci pro autonomní vozidlo nebo model strojového učení, který diagnostikuje příznaky pacienta a doporučuje recepty. Nespolehodnost v těchto typech systémů může vést k podstatnému riziku lidského života.
Vývoj softwarových aplikací založených na umělé inteligenci musí být podroben přísným testovacím procesům a procesům správy nasazení, aby bylo zajištěno, že budou před vydáním fungovat očekávaným způsobem.
Další informace o tom, co je potřeba vzít v úvahu z hlediska spolehlivosti a bezpečnosti, najdete v následujícím videu.
Ochrana osobních údajů a zabezpečení
Systémy umělé inteligence by měly být zabezpečené a měly by respektovat soukromí. Modely strojového učení, na nichž jsou založeny systémy umělé inteligence, se spoléhají na velké objemy dat. Tato data mohou obsahovat osobní údaje, které musí zůstat soukromé. I když jsou modely natrénované a systém je v produkčním prostředí, je potřeba zvážit ochranu osobních údajů a zabezpečení. Vzhledem k tomu, že systém používá nová data k předpovědím nebo provádění akcí, mohou být data i rozhodnutí z dat předmětem ochrany osobních údajů nebo zabezpečení.
Další podrobnosti o tom, co je potřeba vzít v úvahu z hlediska ochrany osobních údajů a zabezpečení, najdete v následujícím videu.
Inkluzivnost
Systémy umělé inteligence by měly nabízet podporu všem lidem. Umělá inteligence by měla přinášet výhody všem částem společnosti bez ohledu na fyzické schopnosti, pohlaví, sexuální orientaci, etnickou příslušnost nebo jiné faktory.
Další podrobnosti o tom, co je potřeba vzít v úvahu z hlediska inkluzivnosti, najdete v následujícím videu.
Transparency
Systémy umělé inteligence by měly být srozumitelné. Uživatelé by měli plně znát účel systému a měli by přesně vědět, jak funguje a jaká omezení mohou očekávat.
Další podrobnosti o tom, co je potřeba vzít v úvahu z hlediska transparentnosti, najdete v následujícím videu.
Odpovědnost
Lidé by měli být za systémy umělé inteligence odpovědní. Návrháři a vývojáři řešení založených na umělé inteligenci by měli pracovat v rámci zásad správného řízení a organizačních principů, které zajistí, aby řešení splňovalo etické a právní normy, které jsou jasně definované.
Další podrobnosti o tom, co je potřeba vzít v úvahu z hlediska odpovědnosti, najdete v následujícím videu.
Principy zodpovědného používání umělé inteligence vám mohou pomoci pochopit některé výzvy, kterým čelí vývojáři, když se snaží vytvořit etická řešení umělé inteligence.
Další zdroje
Další zdroje informace, které vám pomohou zavést principy zodpovědného používání umělé inteligence do praxe, najdete v tématu https://www.microsoft.com/ai/responsible-ai-resources.
Pokud si chcete tyto zásady prohlédnout v praxi, můžete si přečíst o architektuře Microsoftu pro zodpovědné vytváření systémů AI.