Grondbeginselen van het beoordelen van schadelijke effecten

Modellering van schadelijke effecten is bedoeld om u te helpen te anticiperen op potentiële schadelijke effecten, onvolkomenheden in een product op te sporen die een risico voor de mens kunnen vormen, en uiteindelijk te komen tot proactieve oplossingen.

Waarom zou ik schadelijke effecten modelleren?

Het werk van technologiebouwers strekt zich uit over de hele wereld. Voor het ontwerpen van betrouwbare AI-oplossingen (kunstmatige intelligentie) moeten ethische principes diep geworteld zijn in belangrijke en tijdloze waarden. Bij het ontwerpen en bouwen van uw technologieën is het essentieel om niet alleen ideale resultaten te evalueren, maar ook mogelijke negatieve resultaten.

Technologie en mensenrechten

Het is net zo belangrijk als ooit om op de hoogte te zijn van hoe digitale technologie van invloed kan zijn op de mensenrechten. Naast de blijvende bescherming van privacy en beveiliging, moeten we de risico's van AI en andere opkomende technologieën, zoals gezichtsherkenning, aanpakken. De geschiedenis leert ons dat schendingen van de mensenrechten niet alleen het gevolg zijn van het verkeerde gebruik van technologie, maar ook van een gebrek aan bewustzijn onder degenen die goede bedoelingen hebben. Als onderdeel van de toewijding van ons bedrijf aan de bescherming van mensenrechten, is Microsoft een partnerschap aangegaan met belangrijke belanghebbenden buiten de IT-sector, waaronder de Verenigde Naties (VN).

Een belangrijke set principes van de VN waar ons bedrijf sterk achter staat, en die door meer dan 250 naties is geratificeerd, is de Universele Verklaring van de Rechten van de Mens (UVRM). De UVRM is een mijlpaaldocument. De verklaring is opgesteld door een gevarieerde wereldwijde groep van juridische en culturele deskundigen en is door de Algemene Vergadering van de Verenigde Naties in 1948 uitgeroepen tot het gemeenschappelijk door alle volkeren en alle naties te bereiken ideaal. Hierin zijn voor het eerst de grondrechten van de mens die universeel dienen te worden beschermd, verankerd. Het is vertaald in meer dan 500 talen. Microsoft is bovendien een van 4.700 zakelijke ondertekenaars van het Global Compact-initiatief van de VN, dat is ontworpen om verantwoordelijk zakelijk burgerschap te stimuleren.

Een Microsoft Word-bestand van deze tabel downloaden

Menselijk begrip

Naast waardering voor het belang van mensenrechten, moeten voor het bouwen van betrouwbare systemen de perspectieven van een groot aantal mensen worden afgewogen. Wie zijn de belanghebbenden, wat waarderen ze, wat zijn mogelijke toepassingen en wat zijn eventuele nadelige effecten van onze technologie? Het stellen van dergelijke vragen is een belangrijke stap voor het ontwerpen en bouwen van betere producten.

Op wie is de technologie van invloed?

Wie zijn de klanten?

• Wat vinden zij belangrijk?
• Hoe komt het hen ten goede?
• Hoe kan technologie schadelijk voor hen zijn?

Wie zijn de overige belanghebbenden (naast klanten)?

• Wat vinden zij belangrijk?
• Hoe komt het hen ten goede?
• Hoe kan technologie schadelijk voor hen zijn?

Het stellen van deze vragen maakt deel uit van een waardegevoelig ontwerp en vormt het startpunt voor het verkrijgen van meer inzicht in wat betrokkenen belangrijk vinden en welke rol dat speelt in hun relatie tot het product.

Soorten belanghebbenden

Projectsponsors

Deze categorie bestaat uit sponsors, besluitvormers en eigenaars. Hun waarden worden verwoord in de projectstrategie en de doelstellingen.

Technische bouwers

Ontwerpers, ontwikkelaars, projectmanagers en mensen die rechtstreeks aan het ontwerpen van systemen werken, vormen deze groep. Zij dragen hun eigen ethische en professionele normen en waarden bij aan het systeem.

Directe en indirecte belanghebbenden

Deze belanghebbenden worden aanzienlijk beïnvloed door het systeem. Degenen die worden beïnvloed, zijn eindgebruikers, softwaremedewerkers, klanten, omstanders, interfacing-instellingen en zelfs eerdere of toekomstige generaties. Niet-menselijke factoren zoals plaatsen, bijvoorbeeld historische gebouwen of heilige plekken, kunnen ook worden opgenomen.

Gemarginaliseerde populaties

Deze categorie bestaat uit populaties die regelmatig worden beschouwd als een minderheidsgroep, kwetsbare groep of gestigmatiseerde groep. Deze categorie omvat kinderen, oudere volwassenen, leden van de GAYQ+-gemeenschap, etnische minderheden en andere populaties die vaak unieke en onevenredige gevolgen ondervinden.

Schade beoordelen

Zodra u het technologiedoel, use cases en belanghebbenden hebt gedefinieerd, voert u een oefening Harms Modeling uit om mogelijke manieren te evalueren waarop het gebruik van een technologie die u bouwt, negatieve resultaten kan opleveren voor mensen en samenleving.

Download een Microsoft Word-bestand van dit diagram.

Het bovenstaande diagram is een voorbeeld van een evaluatie van schadelijke effecten. Dit model is een kwalitatieve benadering die wordt gebruikt om inzicht te krijgen in de mogelijke omvang van de schade.

U kunt deze ideeënactiviteit afzonderlijk voltooien, maar het wordt idealiter uitgevoerd als samenwerking tussen ontwikkelaars, gegevenswetenschappers, ontwerpers, gebruikersonderzoeker, zakelijke besluitvormers en andere disciplines die betrokken zijn bij het bouwen van de technologie.

Suggesties voor beschrijvingen van schadelijke effecten:

• Bedoeld gebruik: Als [functie] is gebruikt voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Onbedoeld gebruik: Als [gebruiker] heeft geprobeerd [functie] te gebruiken voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Systeemfout: Als [functie] niet goed functioneert wanneer deze wordt gebruikt voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Misbruik: [kwaadwillende] kan [functie] mogelijk gebruiken om [beschrijving van schadelijk effect] te veroorzaken op [belanghebbende].

Gebruik de categorieën, vragen en voorbeelden die worden beschreven in Soorten schadelijke effecten om specifieke ideeën te genereren over mogelijke schadelijke effecten. Het artikel bevat categorieën van schade, die zijn gebaseerd op veelvoorkomende negatieve impactgebieden. U kunt aanvullende categorieën die relevant voor u zijn, aanpassen en opnemen.

Volgende stappen

Lees Soorten schadelijke effecten voor een verdere analyse van schadelijke effecten.