Hra Judgment Call
Judgment Call je herní a týmová aktivita, která využívá principy AI microsoftu, jako jsou nestrannost, ochrana osobních údajů a zabezpečení, spolehlivost a bezpečnost, transparentnost, inkluze a odpovědnost. Hra poskytuje snadno použitelnou metodu, jak kultivovat empatii zúčastněných stran tím, že si představuje jejich scénáře. Účastníci hry píší recenze produktu z perspektivy konkrétního účastníka a popisují, k jakému typu dopadu a případným škodám může daná technologie z jejich pohledu vést.
Výhody
Tvůrci technologií potřebují praktické metody, jak začlenit etiku do vývoje produktů, a to tím, že budou brát v úvahu hodnoty různorodých zúčastněných stran a jak mohou technologie tyto hodnoty podporovat nebo ne. Cílem hry je představit si potenciální výsledky produktu nebo platformy získáním lepšího porozumění zúčastněným stranám a tomu, co potřebují a očekávají.
Hra pomáhá lidem diskutovat o náročných tématech v bezpečném prostoru v kontextu hry a dává tvůrcům technologií slovník, který usnadňuje etickou diskuzi během vývoje produktu. Poskytuje manažerům a návrhářům interaktivní nástroj pro vedení etického dialogu s jejich týmy za účelem začlenění etického designu do jejich produktů.
Teoretické základy a počáteční výsledky hry Judgment Call byly prezentovány na konferenci ACM Design Interactive Systems v roce 2019 a hra byla finalistou v kategorii Fast Company 2019 Innovation by Design Awards (kategorie Sociální zboží). Hra byla prezentována tisícům lidí v USA a mezinárodně. Zatímco největší skupina usnadněná při hraní hry je více než 100, každý balíček karet může obsahovat 1 až 10 hráčů. Tato hra není určena jako náhradu za provádění robustního uživatelského výzkumu. Je to spíše cvičení, které má technickým tvůrcům pomoct naučit se uplatňovat svou morální představivost.
Příprava
Judgment Call využívá roli k tomu, aby se projevily etické obavy při vývoji produktů, takže hráči budou předvídat společenský dopad, psát recenze produktů a zkoumat zmírnění rizik. Hráči uvažují o tom, jaké škody a dopady by mohla technologie způsobit psaním recenzí produktů z pohledu účastníka.
Chcete-li se připravit na tuto hru, stáhněte si tisknutelnou sadu hry Judgment Call.
Během hry
Očekává se, že hráči projdou v této hře následujícími kroky:
Identifikace produktu
Začněte tím, že identifikujete produkt, který váš tým vytváří, nebo scénář, na který pracujete. Pokud například váš tým vyvíjí syntetické hlasové technologie, může váš scénář znamenat vývoj hlasového asistent pro online výuku.
Předání karet
Jakmile se rozhodnete pro scénář, rozdávejte karty. Každý hráč obdrží kartu účastníka, kartu etických zásad, ratingovou kartu a formulář pro kontrolu. Následuje popis těchto karet:
Zúčastněných stran: Představuje skupinu lidí ovlivněnou zvolenou technologií nebo scénářem. Mezi zúčastněné strany patří také tvůrci (ti, kteří navrhují technologii a pracují na ní) a také interní sponzoři projektů (manažeři a vedoucí pracovníci, kteří projekt podporují).
Zásadě: To zahrnuje etické zásady společnosti Microsoft týkající se spravedlnosti, ochrany osobních údajů a zabezpečení, spolehlivosti a bezpečnosti, transparentnosti, inkluze a odpovědnosti.
Hodnocení: Hvězdicové karty dávají hodnocení: 1-star je špatný, 3-star je průměrný, 5-star je vynikající.
Debata a identifikace zúčastněných stran
Jako skupina můžete debatovat o všech zúčastněných stranách, které by mohly být touto technologií přímo nebo nepřímo ovlivněny. Pak každému hráči přiřaďte účastníka ze seznamu. V některých případech můžou mít balíčky Judgment Call předem vyplněné karty účastníků, ale hráči můžou přidat další karty, které jsou relevantní pro jejich situaci.
Balíček obsahuje následující kategorie zúčastněných stran:
Přímé: Ty využívají technologii a/nebo se na nich používá.
Nepřímé: Ty pociťují účinky této technologie.
Zvláštní populace: Široká škála kategorií zahrnující ty, kteří tuto technologii nemůžou používat nebo se rozhodnou ji nepoužívat, a organizace, které se mohou o její nasazení zajímat, jako jsou například advokátní skupiny nebo státní správa.
Existuje řada škod, které lze pociťovat nebo způsobit každé skupině zúčastněných stran. Mezi typy zúčastněných stran můžou patřit koncoví uživatelé produktu, správci, interní týmy, skupiny poradců, výrobci nebo někdo, kdo může být vyloučený z používání produktu. Mezi zúčastněné strany patří také tvůrci, kteří navrhují technologii a pracují na ní, a také interní sponzoři projektů, tj. manažeři a vedoucí pracovníci, kteří projekt podporují.
Výběr moderátoru
Moderátor popisuje scénáře pro hraní her, vede diskuzi a na konci shromažďuje karty komentářů. Poskytnou také přehled etických zásad zvažovaných v balíčku.
Prezentace produktu
Moderátor představuje produkt, skutečný nebo imaginární, aby hráči mohli hrát roli. Můžou začít s otázkami týkajícími se produktu pomocí výzev, jako jsou:
Kdo bude produkt používat?
Jaké funkce bude mít?
Kdy se použije?
Kde se bude používat?
Proč je to užitečné?
Jak se bude používat?
Psaní recenzí
Každý hráč napíše recenzi produktu nebo scénáře na základě karet, které jim byly rozdáděné. Hráči se střídají při čtení svých recenzí nahlas. Pečlivě poslouchejte případné problémy nebo motivy, které by se mohly nacházet. Na základě probíraných přehledů si poznamenejte všechny změny, které můžete v produktu provést.
Karta účastníka mu řekne, kdo je pro dané kolo.
Karta etických zásad je jedním ze šesti principů AI společnosti Microsoft; řekne jim, na jakou oblast se ve své recenzi zaměřuje.
Na kartě hodnocení se dozví, jak moc se dané zúčastněné straně tato technologie líbí (1, 3 nebo 5 hvězdiček).
Hráč pak napíše recenzi technologie, z pohledu svého účastníka, proč se mu líbí nebo nelíbí produkt z hlediska etických zásad, které obdrželi.
Diskuse
Moderátor má každý hráč přečte své recenze. Všichni jsou zváni, aby prodiskutovali různé perspektivy a další aspekty, které se nemusely objevit.
Mezi potenciální otázky moderátora patří:
Na koho to má největší dopad?
Jaké funkce jsou problematické?
Jaké jsou potenciální škody?
Zmírnění škod
Nakonec skupina vybere vlákno z diskuze a začne identifikovat změny návrhu nebo procesu, které můžou zmírnit konkrétní škodu. Na konci každého kola se balíčky zamíchají a další kolo může začínat stejným nebo jiným scénářem.
Další kroky
Jakmile dostatečně porozumíte potenciálním škodám nebo negativním dopadům, které váš produkt nebo scénář může způsobit, pokračujte tím, jak tyto škody modelovat , abyste mohli navrhnout efektivní zmírnění.