Basi della valutazione del danno
La modellazione dei danni è una prassi progettata per anticipare i potenziali danni, identificare le lacune nel prodotto che potrebbero mettere a rischio le persone e in ultima analisi definire gli approcci per affrontare questi aspetti proattivamente.
Perché la modellazione dei danni?
Il lavoro degli sviluppatori di tecnologie ha una portata globale. Per essere affidabile, la progettazione di intelligenza artificiale richiede la creazione di soluzioni che riflettano i principi etici profondamente radicati in valori importanti e senza tempo. Nel processo di progettazione e creazione delle tecnologie, è essenziale valutare non solo i risultati ideali, ma anche quelli negativi possibili.
Tecnologia e diritti umani
È importante quanto mai essere consapevoli del modo in cui la tecnologia digitale potrebbe influire sui diritti umani. Oltre a continuare a proteggere la privacy e la sicurezza, è necessario affrontare i rischi dell'intelligenza artificiale e di altre tecnologie emergenti, come il riconoscimento facciale. La storia ci insegna che le violazioni dei diritti umani non solo derivano dall'uso nefarioso della tecnologia, ma anche dalla mancanza di consapevolezza tra coloro che hanno buone intenzioni. Nell'ambito dell'impegno aziendale verso la protezione dei diritti umani, Microsoft ha istituito una partnership con importanti stakeholder esterni al settore, tra cui le Nazioni Unite (ONU).
Una serie importante di principi dell'ONU supportati fermamente dalla nostra azienda e ratificati da oltre 250 nazioni è la Dichiarazione universale dei diritti umani, un documento che rappresenta un punto di riferimento fondamentale. Redatta da un gruppo globale eterogeneo di esperti in campo giuridico e culturale, la Dichiarazione è stata proclamata dall'Assemblea Generale delle Nazioni Unite nel 1948 come standard comune per tutti i popoli e tutte le nazioni. Definisce, per la prima volta, l'universalità della protezione dei diritti umani fondamentali. Il documento è stato tradotto in più di 500 lingue. Inoltre, Microsoft è uno dei 4.700 firmatari aziendali del Patto mondiale delle Nazioni Unite, un'iniziativa internazionale concepita per promuovere la cittadinanza aziendale responsabile.
Scaricare un file di Microsoft Word di questa tabella
Riconoscimento del fattore umano
Oltre ad apprezzare l'importanza dei diritti umani, per la creazione di sistemi affidabili è necessario considerare i punti di vista di molte persone. Per progettare e creare prodotti migliori, è fondamentale chiederci chi sono gli stakeholder, quali sono i loro valori, come potrebbero beneficiare dalla tecnologia e quali ripercussioni negative potrebbero subire.
Chi subisce l'impatto della tecnologia?
Chi sono i clienti?
- Quali sono i loro valori?
- Come potrebbero beneficiarne?
- Quali ripercussioni negative potrebbero subire?
Chi sono gli stakeholder diversi dai clienti?
- Quali sono i loro valori?
- Come potrebbero beneficiarne?
- Quali ripercussioni negative potrebbero subire?
La pratica di porre queste domande fa parte della progettazione sensibile ai valori e consente di iniziare a capire cosa è importante per gli stakeholder e quale effetto ha sul loro rapporto con i prodotti.
Tipi di stakeholder
Sponsor di progetto
Questa categoria è costituita da sostenitori, decision maker e proprietari. I loro valori sono articolati nella strategia e negli obiettivi dei progetti.
Costruttori di tecnologia
Designer, sviluppatori, project manager e persone che lavorano direttamente sulla progettazione di sistemi costituiscono questo gruppo. Hanno standard etici e valori specifici della professione che si riflettono nei sistemi.
Stakeholder diretti e indiretti
Questi stakeholder subiscono un impatto significativo dal sistema. Gli utenti finali, il personale software, i clienti, gli standard, gli istituti di interazione e persino le generazioni passate o future, sono interessati da utenti finali. Possono essere inclusi anche fattori non umani, ad esempio luoghi, edifici storici o spazi sacri.
Popolazioni emarginate
Questa categoria è costituita dalla popolazione spesso considerata come minoranza, vulnerabile o stigmatizzata. Questa categoria include bambini, adulti anziani, membri della comunità LGBTQ+, minoranze etniche e altre popolazioni che spesso sperimentano conseguenze uniche e sproporzionate.
Valutazione del danno
Dopo aver definito lo scopo della tecnologia, i casi d'uso e gli stakeholder, condurre un esercizio di modellazione harms per valutare i possibili modi in cui l'uso di una tecnologia che si sta creando potrebbe produrre risultati negativi per le persone e la società.
Scaricare un file di Microsoft Word di questo diagramma.
Il diagramma qui sopra è un esempio di valutazione dei danni. Questo modello è un approccio qualitativo usato per comprendere la potenziale grandezza del danno.
È possibile completare questa attività di ideazione singolarmente, ma idealmente viene condotta come collaborazione tra sviluppatori, data scientist, progettisti, ricercatori utente, decision maker aziendali e altre discipline coinvolte nella creazione della tecnologia.
Suggerimenti per la definizione dei danni:
- Uso previsto: se [funzionalità] è stato usato per [caso d'uso], [stakeholder] potrebbe riscontrare [descrizione del danno].
- Uso non previsto: se [utente] ha tentato di usare [funzionalità] per [caso d'uso], [stakeholder] potrebbe riscontrare [descrizione del danno].
- Errore di sistema: se [funzionalità] non funziona correttamente quando viene usato per [caso d'uso], [stakeholder] potrebbe riscontrare [descrizione del danno].
- Uso improprio: [Utente malintenzionato] potrebbe potenzialmente usare [funzionalità], per generare [descrizione del danno] per [stakeholder].
Usare le categorie, le domande e gli esempi descritti in Tipi di danno per generare idee specifiche su come potrebbe verificarsi un danno. L'articolo elenca le categorie di danni, che si basano su aree di impatto negativo comuni. Adattare e adottare altre categorie appropriate per la propria situazione.
Passaggi successivi
Per un'ulteriore analisi dei danni, vedere Tipi di danno.