Sdílet prostřednictvím

Pokyny k integraci a zodpovědnému používání personalizace

  • Článek

Důležité

Od 20. září 2023 nebudete moct vytvářet nové prostředky personalizace. Služba Personalizace se vyřadí z provozu 1. října 2026.

Microsoft pomáhá zákazníkům zodpovědně vyvíjet a nasazovat řešení pomocí azure AI Personalizátoru. Náš principovaný přístup zachovává osobní agenturu a důstojnost tím, že zváží systém umělé inteligence:

  • Nestrannost, spolehlivost a bezpečnost.
  • Ochrana osobních údajů a zabezpečení.
  • Kompletnost.
  • Průhlednost.
  • Lidská odpovědnost.

Tyto aspekty odrážejí náš závazek vyvíjet zodpovědnou AI.

Obecné pokyny pro principy integrace a zodpovědného používání

Až budete připraveni integrovat a zodpovědně používat produkty nebo funkce využívající AI, následující aktivity vám pomůžou nastavit úspěch:

  • Porozumíte tomu, co to může dělat. Plně vyhodnoťte potenciál personalizace, abyste porozuměli jeho schopnostem a omezením. Porozumíte tomu, jak se bude ve vašem konkrétním scénáři a kontextu provádět, a to důkladným testováním s reálnými podmínkami a daty.

  • Respektujte právo jednotlivce na ochranu osobních údajů. Shromážděte pouze údaje a informace od jednotlivců pro zákonné a oprávněné účely. K tomuto účelu používejte pouze data a informace, se kterými souhlasíte.

  • Získejte právní kontrolu. Získejte odpovídající právní poradenství ke kontrole personalizace a způsobu jeho používání ve vašem řešení, zejména pokud ho budete používat v citlivých nebo vysoce rizikových aplikacích. Porozumíte omezením, která byste mohli potřebovat, abyste mohli vyřešit případné problémy, které by mohly v budoucnu nastat.

  • Mít člověka ve smyčce. Zahrňte lidský dohled jako konzistentní oblast vzorů k prozkoumání. Zajistěte konstantní lidský dohled nad produktem nebo funkcí využívajícím AI. Udržujte roli lidí při rozhodování. Ujistěte se, že v řešení můžete mít zásah člověka v reálném čase, abyste zabránili poškození a správě situací, kdy systém AI nefunguje podle očekávání.

  • Vytvořte důvěru s ovlivněnými zúčastněnými stranami. Informujte očekávané výhody a potenciální rizika ovlivněným zúčastněným stranám. Pomozte lidem pochopit, proč jsou data potřebná a jak jejich využití povede k jejich výhodám. Popis zpracování dat srozumitelným způsobem

  • Vytvořte smyčku zpětné vazby zákazníků. Poskytněte kanál zpětné vazby, který uživatelům a jednotlivcům umožňuje hlásit problémy se službou po nasazení. Jakmile nasadíte produkt nebo funkci využívající AI, vyžaduje průběžné monitorování a vylepšení. Připravte se na implementaci jakékoli zpětné vazby a návrhů na vylepšení. Vytvořte kanály pro shromažďování otázek a obav od ovlivněných zúčastněných stran. Mezi osoby, které mohou být přímo nebo nepřímo ovlivněny systémem, patří zaměstnanci, návštěvníci a veřejnost.

  • Zpětná vazba: Vyhledejte zpětnou vazbu od různorodého vzorkování komunity během procesu vývoje a hodnocení (například historicky určených skupin, osob s postižením a pracovníků služeb). Další informace najdete v tématu Komunitní porota.

  • Uživatelská studie: Veškerá doporučení k vyjádření souhlasu nebo zveřejnění by měla být v rámci studie uživatele. Vyhodnoťte první a průběžné používání pomocí reprezentativního vzorku komunity, abyste ověřili, že volby návrhu vedou k účinnému zveřejnění. Proveďte výzkum uživatelů s 10–20 členy komunity (ovlivněnými zúčastněnými stranami), aby vyhodnotili jejich porozumění informacím a zjistili, jestli jsou splněna jejich očekávání.

  • Transparentnost a vysvětlení: Zvažte možnost povolit a použít možnost odvozování personalizace, abyste lépe pochopili, které funkce hrají významnou roli v rozhodování personalizace při každém volání pořadí. Tato funkce vám umožní poskytnout uživatelům transparentnost týkající se toho, jak jejich data hrála roli při vytváření doporučené nejlepší akce. Uživatelům můžete například dát tlačítko s popiskem "Proč tyto návrhy?", které hlavní funkce hrály roli při vytváření výsledků personalizace. Tyto informace lze také použít k lepšímu pochopení atributů dat o vašich uživatelích, kontextech a akcích, které pracují ve prospěch nejvhodnější akce personalizace, které s ní pracují a které můžou mít malý nebo žádný vliv. Tato funkce také poskytuje přehledy o segmentech uživatelů a pomáhá identifikovat a řešit potenciální předsudky.

  • Nežádoucí použití: Zvažte vytvoření procesu pro detekci škodlivé manipulace a práci s nimi. Existují aktéři, kteří budou využívat možnosti strojového učení a systémů umělé inteligence učit se z jejich prostředí. Díky koordinovaným útokům můžou uměle falešné vzory chování, které posunují data a modely AI směrem k jejich cílům. Pokud by vaše použití personalizace mohlo ovlivnit důležité volby, ujistěte se, že máte vhodné prostředky k detekci a zmírnění těchto typů útoků.

  • Výslovný nesouhlas: Zvažte možnost poskytnout uživatelům možnost vyjádřit výslovný nesouhlas s přijímáním přizpůsobených doporučení. Pro tyto uživatele se rozhraní API Personalizace pořadí nebude z vaší aplikace volat. Místo toho může vaše aplikace použít alternativní mechanismus pro rozhodování o tom, jaká akce se provede. Například tím, že se odhlásíte z přizpůsobených doporučení a zvolíte výchozí nebo základní akci, uživatel se setká s akcí, která by byla provedena bez doporučení personalizace. Případně může vaše aplikace používat doporučení založená na agregovaných mírách nebo mírách založených na populaci (například nyní trend, nejoblíbenějších 10 nejoblíbenějších atd.).

Vaše zodpovědnost

Všechny pokyny pro zodpovědné implementace vycházejí ze základů, které vývojáři a firmy využívající Personalizace zodpovídají za účinky používání těchto algoritmů ve společnosti. Pokud vyvíjíte aplikaci, kterou vaše organizace nasadí, měli byste rozpoznat svou roli a zodpovědnost za její provoz a způsob, jakým ovlivňuje lidi. Pokud navrhujete aplikaci, která se má nasadit třetí stranou, získáte sdílené znalosti o tom, kdo je v konečném důsledku zodpovědný za chování aplikace. Nezapomeňte tyto znalosti zdokumentovat.

Otázky a názory

Microsoft průběžně upgraduje nástroje a dokumenty, které vám pomůžou s těmito povinnostmi pracovat. Náš tým vás vyzve, abyste Microsoftu poskytli zpětnou vazbu, pokud se domníváte, že vám jiné nástroje, funkce produktů a dokumenty pomohou implementovat tyto pokyny pro používání personalizace.

  • Podívejte se na šest principů microsoftu pro zodpovědný vývoj umělé inteligence publikované v knize The Future Computed z ledna 2018.

Další kroky

Vysvětlení toho, jak rozhraní API pro přizpůsobení přijímá funkce: Funkce: Akce a kontext