Podstawy oceniania szkody

Modelowanie szkody to metoda, która ułatwia przewidzenie potencjalnego wystąpienia szkody, zidentyfikowanie luk w produkcie, które mogą stanowić zagrożenie dla ludzi, i opracowanie sposobów proaktywnego reagowania na szkody.

Dlaczego warto modelować szkody?

Twoja praca, jako twórcy technologii, jest globalna. Projektowanie sztucznej inteligencji tak, aby była godna zaufania, wymaga tworzenia rozwiązań, które odzwierciedlają zasady etyczne głęboko zakorzenione w ważnych i ponadczasowych wartościach. W procesie projektowania i tworzenia technologii ważne jest, aby ocenić nie tylko idealne wyniki, ale także możliwe negatywne.

Technologia i prawa człowieka

Równie ważne jest, aby wiedzieć, jak technologia cyfrowa może mieć wpływ na prawa człowieka. Oprócz kontynuowania ochrony prywatności i bezpieczeństwa, należy rozważyć ryzyko zastosowania sztucznej inteligencji i innych powstających technologii, takich jak rozpoznawanie twarzy. Historia uczy nas, że naruszenia praw człowieka wynikają nie tylko z nikczemnego wykorzystania technologii, ale także z braku świadomości wśród tych, którzy mają dobre intencje. W ramach zaangażowania naszej organizacji w ochronę praw człowieka firma Microsoft nawiązała partnerstwo z ważnymi jednostkami spoza branży, takimi jak Organizacja Narodów Zjednoczonych (ONZ).

Ważnym zestawem zasad ONZ, które firma Microsoft wspiera i które zostały ratyfikowany przez ponad 250 krajów, jest Powszechna Deklaracja Praw Człowieka (UDHR, Universal Declaration of Human Rights). Deklaracja UDHR to niezwykle ważny dokument. Opracowana przez zróżnicowaną, globalną grupę ekspertów w zakresie prawa i kultury, Deklaracja została proklamowana przez Zgromadzenie Ogólne Organizacji Narodów Zjednoczonych w 1948 r. jako wspólny standard osiągnięć dla wszystkich ludzi i wszystkich narodów. Po raz pierwszy ustaliła ona uniwersalną ochronę podstawowych praw człowieka. Została przetłumaczona na ponad 500 języków. Ponadto firma Microsoft jest jednym z 4700 korporacyjnych sygnatariuszy dokumentu UN Global Compact, międzynarodowej inicjatywy biznesowej mającej na celu wspieranie odpowiedzialnego obywatelstwa korporacyjnego.

Pobieranie pliku programu Microsoft Word z tej tabeli

Punkt widzenia człowieka

Poza uznaniem ważności praw człowieka, tworzenie systemów godnych zaufania wymaga wzięcia pod uwagę punktu widzenia wielu osób. Zadanie sobie pytania, kim są zainteresowane strony, co cenią, jakie mogą odnieść korzyści i jak nasza technologia może im zaszkodzić, to zaawansowany krok, który pozwala nam projektować i tworzyć lepsze produkty.

Na kogo ma wpływ technologia?

Kim są klienci?

• Jakie są ich wartości?
• Jak korzyści powinni odnieść?
• Jak technologia może im zaszkodzić?

Kim są uczestnicy projektu, którzy nie są naszymi klientami?

• Jakie są ich wartości?
• Jak korzyści powinni odnieść?
• Jak technologia może im zaszkodzić?

Zadanie tych pytań to sposób postępowania w podejściu Value Sensitive Design. Jest to początek lepszego zrozumienia, co jest ważne dla uczestników projektu i jak wpisuje się w ich relację z produktem.

Typy uczestników projektu

Sponsorzy projektu

Tę kategorię tworzą zwolennicy, osoby podejmujące decyzje i właściciele. Ich wartości są wyrażane w strategii i celach projektu.

Konstruktorzy techniczni

Projektanci, deweloperzy, menedżerowie projektów i osoby pracujące bezpośrednio nad projektowaniem systemów tworzą tę grupę. Wnoszą oni do systemu własne standardy etyczne i wartości charakterystyczne dla ich zawodu.

Bezpośredni i pośredni uczestnicy projektu

Na tych uczestników projektu system ma znaczący wpływ. Osoby, których dotyczy wpływ, to użytkownicy końcowi, pracownicy oprogramowania, klienci, osoby postronne, instytucje międzyfakcjonujące, a nawet wcześniejsze lub przyszłe pokolenia. Może również uwzględniać czynniki inne, niż ludzkie, takie jak na przykład budynki historyczne lub miejsca kultu religijnego.

Populacje marginalne

Ta kategoria składa się z populacji często traktowanych jako mniejszości, narażone na zagrożenia lub napiętnowane. Ta kategoria obejmuje dzieci, starszych dorosłych, członków społeczności LGBTQ+, mniejszości etnicznych i innych populacji, które często doświadczają unikatowych i nieproporcjonalnych konsekwencji.

Ocenianie szkody

Po zdefiniowaniu celu technologii, przypadków użycia i uczestników projektu przeprowadź ćwiczenie modelowania harms, aby ocenić potencjalne sposoby wykorzystania technologii, którą tworzysz, może spowodować negatywne wyniki dla ludzi i społeczeństwa.

Pobierz plik programu Microsoft Word z tego diagramu.

Na powyższym diagramie przedstawiono przykład oceny szkód. Ten model jest jakościowym podejściem używanym do zrozumienia potencjalnej wielkości szkód.

To działanie ide można wykonać indywidualnie, ale najlepiej jest prowadzić współpracę między deweloperami, analitykami danych, projektantami, badaczami użytkowników, osobami podejmującymi decyzje biznesowe i innymi dyscyplinami, które są zaangażowane w tworzenie technologii.

Sugestie dotyczące opisu szkód:

• Zamierzone użycie: jeśli [funkcja] została użyta do [przypadku użycia], to [uczestnik projektu] może doświadczyć [opisu szkody].
• Niezamierzone użycie: jeśli [użytkownik] próbował użyć [funkcji] dla [przypadku użycia], to [uczestnik projektu] może napotkać [opis szkody].
• Błąd systemu: jeśli [funkcja] nie działa prawidłowo w przypadku użycia [przypadku użycia], [uczestnik projektu] może napotkać [opis szkody].
• Nadużycie: [Złośliwy użytkownik] może potencjalnie użyć [funkcja], aby spowodować [opis szkody] dla [uczestnik projektu].

Użyj kategorii, pytań i przykładów opisanych w sekcji Typy szkód, aby wygenerować konkretne przykłady dotyczące wystąpienia szkód. W artykule wymieniono kategorie szkód, które są oparte na typowych obszarach negatywnego wpływu. Dostosuj i zastosuj dodatkowe kategorie, które są dla Ciebie ważne.

Następne kroki

Przeczytaj Typy szkód, aby zapoznać się z dalszą analizą szkody.