Základy posuzování škod

Modelování škod je postup navržený tak, aby vám pomohl odhadnout potenciální škody, identifikovat nedostatky produktu, které by mohly ohrozit lidi, a nakonec vytvořit přístupy, které potenciální škody aktivně řeší.

Proč modelování škod?

Vzhledem k tomu, že vytváříte technologie, je vaše práce globální. Návrh důvěryhodného AI vyžaduje vytvoření řešení, která odrážejí etické principy hluboko zakořeněné v důležitých a nadčasových hodnotách. Při navrhování a sestavování technologií je důležité vyhodnotit nejen ideální výsledky, ale i možné negativní výsledky.

Technologie a lidská práva

Je stejně důležité vědět, jak digitální technologie může mít vliv na lidská práva. Kromě setrvalé ochrany osobních údajů a zabezpečení je potřeba vyřešit rizika AI a dalších vznikajících technologií, jako je rozpoznávání obličeje. Historie nás učí, že porušování lidských práv nejen vede k nechutným využívání technologií, ale také z nedostatku povědomí těch, kteří mají dobré záměry. V rámci úsilí o ochranu lidských práv Microsoft posiluje partnerství s důležitými subjekty mimo svoje odvětví, včetně Organizace spojených národů (OSN).

Důležitou součástí principů OSN, kterou naše společnost pevně podporuje a která byla ratifikována více 250 členy, je Všeobecná deklarace lidských práv. Všeobecná deklarace lidských práv je zásadní dokument. Tato deklarace, jejíž koncept vypracovala mezinárodní skupina odborníků na právo a kulturní tradice, byla Organizací spojených národů v roce 1948 prohlášena za společný výchozí bod pro všechny mezinárodní lidskoprávní úmluvy. Poprvé stanovuje všeobecnou ochranu základních lidských práv. Byla přeložena do více než 500 jazyků. Microsoft je navíc jedním ze 4 700 firemních signatářů UN Global Compactu. Tato mezinárodní iniciativa je zaměřená na propagaci zodpovědných občanských praktik v podnikatelské sféře.

Stažení souboru aplikace Microsoft Word této tabulky

Lidské porozumění

Sestavování důvěryhodných systémů kromě uznání důležitosti lidských práv po nás také vyžaduje, abychom zvážili různé pohledy celé řady osob. Důležitým krokem, který nám umožní navrhovat a sestavovat lepší produkty, je položit si otázky, kdo jsou zúčastněné strany, jaké získají výhody a jak jim naše technologie může uškodit.

Koho tato technologie ovlivní?

Kdo jsou její zákazníci?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kdo jsou zúčastněné strany (kromě zákazníků)?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kladení těchto otázek je jedním z postupů hodnotově citlivého designu a je základem lepšího porozumění tomu, co je pro zúčastněné strany důležité a jak to souvisí s jejich vztahem k danému produktu.

Typy zúčastněných stran

Sponzoři projektu

Tuto kategorii tvoří podporovatelé, osoby s rozhodovací pravomocí a vlastníci. Jejich hodnoty vyjadřují cíle a strategie projektu.

Tvůrci technologií

Tuto skupinu tvoří návrháři, vývojáři, projektoví manažeři a lidé pracující přímo na návrhu systémů. Do systému vnášejí vlastní etické standardy a hodnoty specifické pro konkrétní profese.

Přímí a nepřímí účastníci

Tyto zúčastněné strany jsou systémem výrazně ovlivněné. Mezi ovlivněné patří koncoví uživatelé, pracovníci softwaru, klienti, bystanderové, interfacingové instituce a dokonce i minulé nebo budoucí generace. Mohou sem spadat i jiné než lidské faktory, například historické budovy nebo posvátná místa.

Opomíjené obyvatelstvo

Tuto kategorii tvoří část obyvatelstva, která je často považovaná za minoritní, zranitelnou nebo stigmatizovanou. Tato kategorie zahrnuje děti, starší dospělé, členy komunity LGBTQ+, etnické menšiny a další populace, které často mají jedinečné a nepřiměřené důsledky.

Posouzení škod

Jakmile definujete účel technologie, případy použití a zúčastněné strany, proveďte cvičení modelování škod, abyste vyhodnotili potenciální způsoby použití technologie, kterou vytváříte, mohly vést k negativním výsledkům pro lidi a společnost.

Stáhněte si soubor aplikace Microsoft Word tohoto diagramu.

Příkladem posouzení škod je výše uvedený diagram. Tento model je kvalitativní přístup, který se používá k pochopení potenciálního rozsahu škod.

Tuto aktivitu ideace můžete dokončit jednotlivě, ale v ideálním případě se provádí jako spolupráce mezi vývojáři, datovými vědci, návrháři, uživatelským výzkumem, pracovníky s rozhodovací pravomocí a dalšími disciplínami, které se podílejí na budování technologie.

Návrhy pro vyjádření popisu škod:

• Zamýšlené použití: Pokud se [funkce] použila pro [případ použití], pak [účastník] mohl zaznamenat [popis škod].
• Nezamýšlené použití: Pokud se [uživatel] pokusil použít [funkci] pro [případ použití], pak [účastník] mohl zaznamenat [popis škod].
• Systémová chyba: Pokud se [funkce] při použití pro [případ použití] nepovedla správně, může dojít k [popisu škod].
• Zneužití: [Aktér se zlými úmysly] může potenciálně využít [funkci] k tomu, aby [zúčastněné straně] způsobil škodu ([popis škody]).

Kategorie, otázky a příklady popsané v článku Typy škod použijte k vygenerování konkrétních nápadů, jak by mohlo dojít ke škodám. Článek uvádí kategorie škod, které jsou založeny na společných oblastech negativních dopadů. Přizpůsobte a zařaďte další kategorie, které jsou pro vás relevantní.

Další kroky

Další analýzy škod najdete v článku Typy škod.