Judgement Call

Judgment Call is een activiteit op basis van games en teams waarmee de AI-principes van Microsoft op het gebied van eerlijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, insluiting en verantwoordelijkheid in actie worden gebracht. Het spel biedt een eenvoudig te gebruiken methode voor het cultiveren van empathie van belanghebbenden door hun scenario's voor te stellen. Deelnemers aan het spel schrijven productrecensies vanuit het perspectief van een bepaalde belanghebbende, met een beschrijving van de impact en nadelige gevolgen die de technologie kan hebben vanuit hun oogpunt.

Voordelen

Technologiebouwers hebben praktische methoden nodig om ethiek te integreren in productontwikkeling, door rekening te houden met de waarden van diverse belanghebbenden en hoe technologie deze waarden al dan niet kan handhaven. Het doel van de game is om mogelijke resultaten van een product of platform voor te stellen door een beter inzicht te krijgen in belanghebbenden en wat ze nodig hebben en verwachten.

Het spel helpt mensen bij het bespreken van uitdagende onderwerpen in een veilige ruimte binnen de context van gameplay, en geeft technologiemaker een vocabulaire om ethische discussies tijdens productontwikkeling mogelijk te maken. Het biedt managers en ontwerpers een interactief hulpmiddel om een ethische dialoog met hun teams te voeren om ethisch ontwerp in hun producten op te nemen.

De theoretische basis en de eerste resultaten van de Judgment Call-game werden gepresenteerd op de 2019 ACM Design Interactive Systems-conferentie en de game was een finalist in de Fast Company 2019 Innovation by Design Awards (categorie Social Goods). Het spel is gepresenteerd aan duizenden mensen in de VS en internationaal. Hoewel de grootste groep die in het spel wordt gefaciliteerd meer dan 100 is, kan elke kaartspel 1-10 spelers omvatten. Dit spel is niet bedoeld als vervanging voor het uitvoeren van robuust gebruikersonderzoek. In plaats daarvan is het een oefening om technische bouwers te helpen hun morele verbeelding te oefenen.

Voorbereiding

Judgment Call maakt gebruik van rollenspel om ethische problemen in productontwikkeling aan de orde te brengen, zodat spelers kunnen anticiperen op maatschappelijke impact, productbeoordelingen schrijven en oplossingen verkennen. Spelers denken na over wat voor soort schade en impact de technologie kan veroorzaken door productbeoordelingen te schrijven vanuit het oogpunt van een belanghebbende.

Download de afdrukbare Judgment Call game kit om u voor te bereiden op dit spel.

Tijdens het spel

Van de spelers wordt verwacht dat ze de volgende stappen in dit spel doorlopen:

1. Het product identificeren

   Begin met het identificeren van een product dat uw team bouwt of een scenario waaraan u werkt. Als uw team bijvoorbeeld synthetische spraaktechnologie ontwikkelt, kan uw scenario bestaan uit het ontwikkelen van een assistent voor online leren.

2. Geef de kaarten door

   Zodra u het scenario hebt bepaald, geeft u de kaarten uit. Elke speler ontvangt een stakeholderkaart, een ethische principekaart, een beoordelingskaart en een beoordelingsformulier. Hier volgt een beschrijving van deze kaarten:

   • Belanghebbenden: Dit vertegenwoordigt de groep personen die worden beïnvloed door de technologie of het scenario dat u hebt gekozen. Belanghebbenden kunnen ook de makers zijn (degenen die de technologie voorstellen en eraan werken), evenals de interne projectsponsors (managers en leidinggevenden die het project ondersteunen).

   • Beginsel: Dit omvat de ethische principes van Microsoft op het gebied van eerlijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, insluiting en verantwoordelijkheid.

   • Rating: Sterkaarten geven een waardering: 1-star is slecht, 3-star is middelmatig, 5-star is uitstekend.

3. Brainstormen en belanghebbenden identificeren

   Brainstorm als groep over alle belanghebbenden die direct of indirect door de technologie kunnen worden beïnvloed. Wijs vervolgens aan elke speler een belanghebbende uit de lijst toe. In sommige gevallen hebben de Judgment Call-decks mogelijk vooraf ingevulde stakeholderkaarten, maar spelers kunnen extra kaarten toevoegen die relevant zijn voor hun situatie.

   Het deck biedt de volgende categorieën belanghebbenden:

   • Directe: Deze maken gebruik van de technologie en/of de technologie wordt erop gebruikt.

   • Indirecte: Deze voelen de effecten van de technologie.

   • Speciale populaties: Een breed scala aan categorieën, waaronder degenen die de technologie niet kunnen gebruiken of ervoor kiezen deze niet te gebruiken, en organisaties die mogelijk geïnteresseerd zijn in de implementatie ervan, zoals belangenbehartigingsgroepen of de overheid.

   Er is een reeks schade die kan worden gevoeld of in stand gehouden voor elke groep belanghebbenden. Voorbeelden van belanghebbenden zijn eindgebruikers van het product, beheerders, interne teams, belangengroepen, fabrikanten, iemand die mogelijk wordt uitgesloten van het gebruik van het product. Belanghebbenden kunnen ook de makers zijn die de technologie voorstellen en eraan werken, evenals de interne projectsponsors, dat wil gezegd de managers en leidinggevenden die het project ondersteunen.

4. Moderatorselectie

   De moderator beschrijft scenario's voor gameplay, begeleidt discussies en verzamelt opmerkingenkaarten aan het einde. Ze zullen ook een overzicht geven van de ethische principes die in het deck worden overwogen.

5. Presentatie van een product

   De moderator introduceert een product, echt of denkbeeldig, voor de spelers om rollen te spelen. Ze kunnen beginnen met vragen over het product met prompts zoals:

   • Wie gaat het product gebruiken?

   • Welke functies heeft het?

   • Wanneer wordt het gebruikt?

   • Waar wordt het gebruikt?

   • Waarom is het nuttig?

   • Hoe wordt het gebruikt?

6. Beoordelingen schrijven

   Spelers schrijven elk een beoordeling van het product of scenario op basis van de kaarten die ze hebben gedeeld. Spelers lezen hun beoordelingen om de beurt hardop voor. Luister goed naar eventuele problemen of thema's die zich kunnen voordoen. Noteer eventuele wijzigingen die u in uw product kunt aanbrengen op basis van de besproken inzichten.

   • De stakeholderkaart geeft aan wie ze zijn voor de ronde.

   • De ethische principekaart is een van de zes Microsoft AI-principes; het vertelt hen op welk gebied ze zich richten in hun beoordeling.

   • De beoordelingskaart geeft aan hoeveel belanghebbenden de technologie leuk vinden (1, 3 of 5 sterren).

   De speler schrijft vervolgens een beoordeling van de technologie, vanuit het perspectief van hun belanghebbende, over waarom ze het product wel of niet leuk vinden vanuit het perspectief van het ethische principe dat ze hebben ontvangen.

Discussie

De moderator laat elke speler zijn of haar beoordelingen lezen. Iedereen wordt uitgenodigd om de verschillende perspectieven en andere overwegingen te bespreken die mogelijk niet aan de orde zijn gekomen.

Mogelijke vragen over moderators zijn onder andere:

• Wie is het meest getroffen?

• Welke functies zijn problematisch?

• Wat zijn de mogelijke schade?

Beperking van schade

Ten slotte kiest de groep een thread uit de discussie om te beginnen met het identificeren van ontwerp- of proceswijzigingen die een bepaalde schade kunnen beperken. Aan het einde van elke ronde worden de decks in willekeurige volgorde geschoven en kan een andere ronde beginnen met hetzelfde of een ander scenario.

Volgende stappen

Zodra u voldoende inzicht hebt in mogelijke schade of negatieve gevolgen die uw product of scenario kan veroorzaken, gaat u verder met het modelleren van deze schade , zodat u effectieve oplossingen kunt bedenken.