Bestimmen von Leitprinzipien für verantwortungsvolle KI

Abgeschlossen

In der letzten Lerneinheit wurden einige der gesellschaftlichen Auswirkungen von KI besprochen. Wir sprachen über die Verantwortung von Unternehmen, Regierungseinrichtungen, Nichtregierungsorganisationen und akademischen Forschern, unbeabsichtigte Folgen der KI-Technologie vorherzusehen und zu entschärfen. Da sich immer mehr Organisationen dieser Verantwortung bewusst sind, entwickeln sie interne Richtlinien und Verfahren, um ihre Aktivitäten im Bereich KI zu steuern.

Bei Microsoft haben wir sechs Prinzipien erkannt, von denen wir glauben, dass sie die Entwicklung von künstlicher Intelligenz (KI) bestimmen sollten: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und -sicherheit, Nichtausgrenzung, Transparenz und Verantwortlichkeit. Für uns sind diese Prinzipien die Eckpfeiler eines verantwortungsbewussten und vertrauenswürdigen Umgangs mit KI, zumal intelligente Technologien in den Produkten und Diensten, die wir tagtäglich nutzen, immer mehr an Bedeutung gewinnen.

Fairness

KI-Systeme sollten alle Menschen fair behandeln und vermeiden, Personengruppen in ähnlicher Lebenssituation auf unterschiedliche Weise zu beeinflussen. Wenn KI-Systeme beispielsweise Orientierungshilfe für medizinische Behandlung, Kreditanträge oder Beschäftigung bieten, sollten sie die gleichen Empfehlungen für alle mit ähnlichen Symptomen, wirtschaftlichen Gegebenheiten oder beruflichen Qualifikationen abgeben.

Zur Gewährleistung von Fairness in Ihrem KI-System müssen Sie Folgendes beachten:

• Machen Sie sich mit dem Umfang, Wesen und Einsatzmöglichkeiten des KI-Systems vertraut, indem Sie beispielsweise folgende Fragen stellen: Wie soll das System funktionieren? Für wen ist das System gedacht? Funktioniert das System für alle Beteiligten in gleicher Weise? Wie kann es andere schädigen?
• Ziehen Sie einen vielfältigen Pool an Talenten an. Achten Sie darauf, dass das Designteam die Lebenswirklichkeit widerspiegelt, indem Sie Teammitglieder mit unterschiedlichen Hintergründen, Erfahrungen, Bildungsabschlüssen und Sichtweisen einbeziehen.
• Identifizieren Sie Einseitigkeit in Datasets, indem Sie den Ursprung der Daten auswerten, deren Struktur analysieren und überprüfen, ob sie repräsentativ sind. Voreingenommenheit kann in jeder Erstellungsphase einfließen – von der Erfassung über die Modellierung bis zum Betrieb. Das Dashboard für verantwortungsvolle KI, das Sie im Abschnitt „Ressourcen“ finden, bietet ein Feature, das Sie bei dieser Aufgabe unterstützt.
• Identifizieren Sie Einseitigkeit in Machine Learning-Algorithmen, indem Sie Tools und Techniken anwenden, die die Transparenz und Verständlichkeit von Modellen verbessern. Benutzer sollten Voreingenommenheit in Machine-Learning-Algorithmen aktiv erkennen und entfernen.
• Nutzen Sie menschliche Prüf- und Fachkompetenz. Schulen Sie Ihre Mitarbeiter*innen darin, die Bedeutung und die Auswirkungen von KI-Ergebnissen zu verstehen. Dies gilt insbesondere dann, wenn mithilfe der KI folgenreiche Entscheidungen über Personen getroffen werden. Entscheidungen, bei denen die KI zum Einsatz kommt, sollten immer einer Überprüfung durch einen Menschen unterzogen werden. Beziehen Sie fachliche Ansprechpartner*innen in den Entwurfsprozess und in Bereitstellungsentscheidungen ein. Ein Beispiel wäre die Einbindung eines Experten für Konsumentenkredite in ein KI-System zur Kreditwürdigkeitsprüfung. Sie sollten die KI als Co-Piloten einsetzen, d. h. als ein Hilfsmittel, das Sie dabei unterstützt, eine Aufgabe besser und schneller zu erledigen, das aber auch ein gewisses Maß an Kontrolle erfordert.
• Recherchieren und nutzen Sie bewährte Vorgehensweisen, Analysemethoden und Tools anderer Institutionen und Unternehmen, um Voreingenommenheit in KI-Systemen zu erkennen, zu verhindern und zu beseitigen.

Zuverlässigkeit und Sicherheit

Für den Aufbau von Vertrauen ist es unerlässlich, dass KI-Systeme unter normalen, aber auch unter unerwarteten Bedingungen zuverlässig, sicher und gleichbleibend funktionieren. Diese Systeme sollten so betrieben werden können, wie sie ursprünglich entworfen wurden, bei unvorhergesehenen Bedingungen sicher reagieren und schädlichen Manipulationen trotzen. Es ist auch wichtig, überprüfen zu können, ob sich diese Systeme unter realen Betriebsbedingungen wie vorgesehen verhalten. Wie sie sich verhalten und mit welchen unterschiedlichen Bedingungen sie zuverlässig und nachweislich umgehen können, spiegelt weitgehend die Bandbreite der Situationen und Umstände wider, die Entwickler beim Entwerfen und Testen erwarten.

Zur Gewährleistung von Zuverlässigkeit und Sicherheit in Ihrem KI-System müssen Sie Folgendes beachten:

• Entwickeln Sie Prozesse zur Überprüfung von KI-Systemen, um die Qualität und Eignung von Daten und Modellen zu bewerten, die laufende Leistung zu überwachen und zu überprüfen, ob sich die Systeme auf der Grundlage festgelegter Leistungskennzahlen wie vorgesehen verhalten.
• Stellen Sie eine detaillierte Erklärung des Systembetriebs zur Verfügung, einschließlich Entwurfsspezifikationen, Informationen zu Trainingsdaten, aufgetretenen Trainingsfehlern und möglichen Unzulänglichkeiten bei Trainingsdaten sowie den daraus generierten Rückschlüssen und signifikanten Vorhersagen.
• Berücksichtigen Sie beim Entwurf unbeabsichtigte Umstände wie versehentliche Systemänderungen, die Einführung schädlicher Daten oder Cyberangriffe.
• Binden Sie Fachbereichsexperten in den Entwurfs- und Implementierungsprozess ein, insbesondere wenn die KI dazu verwendet wird, folgenreiche Entscheidungen über Personen zu treffen.
• Führen Sie während der Entwicklung und Bereitstellung von KI-Systemen gründliche Tests durch, um sicherzustellen, dass die Systeme auf unvorhergesehene Umstände zuverlässig reagieren können, keine unerwarteten Leistungsausfälle zeigen und sich nicht in unerwarteter Weise weiterentwickeln. KI-Systeme, die an risikoreichen Szenarien mit Auswirkungen auf die menschliche Sicherheit oder große Bevölkerungsgruppen beteiligt sind, müssen sowohl im Labor als auch in der Praxis getestet werden.
• Bewerten Sie, wann und wie ein KI-System bei wichtigen Entscheidungen oder in kritischen Situationen menschliche Unterstützung einholen sollte. Überlegen Sie, wie ein KI-System die Kontrolle an einen Menschen in einer Weise übertragen sollte, die sinnvoll und verständlich ist. Entwickeln Sie KI-Systeme so, dass sichergestellt ist, dass Menschen das notwendige Maß an Einfluss auf folgenschwere Entscheidungen haben.
• Entwickeln Sie einen zuverlässigen Feedbackmechanismus für Benutzer*innen, mit dem Leistungsprobleme zur schnellen Behebung gemeldet werden können.

Datenschutz und -sicherheit

Mit zunehmender Verbreitung von KI wird der Schutz der Privatsphäre und die Absicherung wichtiger persönlicher und geschäftlicher Informationen immer wichtiger und komplexer. Bei der KI bedürfen Fragen des Datenschutzes und der Datensicherheit besonderer Aufmerksamkeit, da der Zugang zu Daten für KI-Systeme unerlässlich ist, um genaue und fundierte Vorhersagen und Entscheidungen über Menschen zu treffen.

Zur Gewährleistung von Datenschutz und Sicherheit in Ihrem KI-System müssen Sie Folgendes beachten:

• Befolgen Sie die geltenden Datenschutz- und Transparenzgesetze, indem Sie Ressourcen in die Entwicklung von Konformitätstechnologien und -verfahren investieren oder bei der Entwicklung von KI-Systemen mit einem technologisch führenden Unternehmen zusammenarbeiten. Entwickeln Sie Prozesse, um kontinuierlich zu kontrollieren, ob die KI-Systeme alle Vorgaben dieser Gesetze erfüllen.
• Entwickeln Sie KI-Systeme so, dass die Integrität personenbezogener Daten gewahrt bleibt, sodass sie personenbezogene Daten nur so lange wie erforderlich und für die definierten Zwecke genutzt werden können, die mit Kunden vereinbart wurden. Löschen Sie versehentlich erfasste personenbezogene Daten oder Daten, die für den vorgesehenen Zweck nicht mehr relevant sind.
• Schützen Sie KI-Systeme vor böswilligen Akteuren, indem Sie KI-Systeme in Übereinstimmung mit sicheren Entwicklungs- und Betriebsprinzipien entwerfen, eine rollenbasierte Zugriffssteuerung verwenden und personenbezogene und vertrauliche Daten schützen, die an Dritte übertragen werden. Entwickeln Sie KI-Systeme so, dass sie anormales Verhalten erkennen und Manipulationen und böswillige Angriffe verhindern.
• Konzipieren Sie KI-Systeme mit geeigneten Kontrollmechanismen, damit Kunden Entscheidungen darüber treffen können, wie und warum ihre Daten erfasst und verarbeitet werden.
• Stellen Sie sicher, dass Ihr KI-System Anonymität wahrt, indem Sie berücksichtigen, wie das System personenbezogene Informationen aus den Daten entfernt.
• Führen Sie Datenschutz- und Sicherheitsüberprüfungen für alle KI-Systeme durch.
• Recherchieren und implementieren Sie branchenspezifische bewährte Verfahren zur Nachverfolgung relevanter Informationen zu Kundendaten, Zugriff und Nutzung dieser Daten sowie zur Überprüfung von Zugriff und Nutzung.

Nichtausgrenzung

Bei Microsoft sind wir fest davon überzeugt, dass jeder von intelligenter Technologie profitieren sollte, was heißt, dass sie ein breites Spektrum an menschlichen Bedürfnissen und Fähigkeiten abdecken und berücksichtigen muss. Für die 1 Mrd. Menschen mit Behinderungen auf der ganzen Welt können KI-Technologien einen Wandel bewirken. KI kann den Zugang zu Bildung, staatlichen Leistungen, Beschäftigung, Informationen und einer Vielzahl anderer Angebote verbessern. Intelligente Lösungen wie die Transkription von Sprache in Text in Echtzeit, visuelle Erkennungsdienste und Textvorhersagefunktionen unterstützen bereits Menschen mit einem beeinträchtigten Hör- oder Sehvermögen oder anderen Beeinträchtigungen.

Microsoft-Prinzipien für inklusive Designs:

• Erkennen von Ausgrenzung
• Problem für eine Person lösen, auf viele ausdehnen
• Lernen aus Diversität

Zur Gewährleistung von Inklusion in Ihrem KI-System müssen Sie Folgendes beachten:

• Befolgen Sie Gesetze zu Barrierefreiheit und Inklusion, die die Beschaffung barrierefreier Technologie vorschreiben.
• Nutzen Sie das „Inclusive 101 Guidebook“, das im Ressourcenbereich dieses Moduls verfügbar ist. Dieser Leitfaden unterstützt Systementwickler*innen dabei, potenzielle Barrieren in einer Produktumgebung, die Menschen ungewollt ausschließen könnten, zu erkennen und zu beseitigen.
• Lassen Sie Menschen mit Behinderungen Ihre Systeme testen, um festzustellen, ob das System von einer möglichst breiten Zielgruppe wie vorgesehen genutzt werden kann.
• Erwägen Sie die Befolgung gängiger Barrierefreiheitsstandards, um sicherzustellen, dass Ihr System für Menschen mit allen Fähigkeiten zugänglich ist.

Transparenz

Den vorgenannten Werten liegen zwei grundlegende Prinzipien zugrunde, die für die Gewährleistung der Effektivität der restlichen wesentlich sind: Transparenz und Verantwortlichkeit. Es ist wichtig, dass die Menschen verstehen, wie KI-Systeme Schlussfolgerungen ziehen, wenn sie für Entscheidungen eingesetzt werden, die Auswirkungen auf das Leben von Menschen haben. So kann beispielsweise eine Bank ein KI-System zur Entscheidung heranziehen, ob eine Person kreditwürdig ist, oder ein Unternehmen nutzt ein KI-System, um für die Einstellung die am besten geeigneten Kandidaten zu ermitteln.

Ein entscheidender Aspekt von Transparenz ist das, was wir als Verständlichkeit bezeichnen bzw. die nützliche Erklärung des Verhaltens von KI-Systemen und ihrer Komponenten. Die Verbesserung der Verständlichkeit erfordert, dass die Beteiligten verstehen, wie und warum KI-Systeme funktionieren, damit potenzielle Leistungsprobleme, Sicherheits- und Datenschutzbedenken, Voreingenommenheit, ausgrenzende Praktiken oder unbeabsichtigte Ergebnisse aufgedeckt werden können. Wir sind zudem der Auffassung, dass die Nutzer*innen von KI-Systemen ehrlich und offen darlegen müssen, wann, warum und wie diese Systeme eingesetzt werden sollen.

Zur Gewährleistung von Transparenz in Ihrem KI-System müssen Sie Folgendes beachten:

• Nennen Sie Entwicklern die wichtigsten Merkmale von Datasets, damit sie verstehen, ob ein bestimmtes Dataset für ihren Anwendungsfall geeignet ist.
• Verbessern Sie die Verständlichkeit von Modellen, indem Sie einfachere Modelle nutzen und verständliche Erklärungen für das Modellverhalten bereitstellen. Für diese Aufgabe können Sie das Dashboard für verantwortungsvolle KI nutzen, das im Abschnitt „Ressourcen“ verfügbar ist.
• Schulen Sie Ihre Mitarbeiter in der Interpretation von KI-Ergebnissen, und stellen Sie sicher, dass sie für Folgeentscheidungen auf Grundlage der Ergebnisse verantwortlich bleiben.

Verantwortlichkeit

Die Personen, die KI-Systeme entwerfen und bereitstellen, müssen dafür verantwortlich sein, wie sie ihre Systeme betreiben. Organisationen sollten sich auf Branchenstandards stützen, um Verantwortlichkeitsnormen zu entwickeln. Diese Normen können sicherstellen, dass KI-Systeme nicht die letzte Instanz bei Entscheidungen sind, die das Leben von Menschen beeinflussen, und dass Menschen eine angemessene Kontrolle über ansonsten weitgehend autonome KI-Systeme behalten.

Zur Sicherstellung von Verantwortlichkeit in Ihrem KI-System müssen Sie Folgendes beachten:

• Richten Sie interne Prüfgremien ein, um die verantwortungsbewusste Entwicklung und Bereitstellung von KI-Systemen zu beaufsichtigen und anzuleiten. Die Mitglieder des Gremiums können auch bei Aufgaben wie der Definition von bewährten Verfahrensweisen für die Dokumentation und das Testen von KI-Systemen während der Entwicklung helfen oder Hilfestellung bei sensiblen Anwendungsfällen leisten.
• Stellen Sie sicher, dass Ihre Mitarbeiter*innen hinsichtlich der verantwortungsbewussten und ethischen Nutzung und Verwaltung der Lösung geschult sind und verstehen, wann für die Lösung zusätzlicher technischer Support benötigt wird.
• Halten Sie Fachexperten auf dem Laufenden, indem Sie ihnen Berichte zukommen lassen und sie in Entscheidungen zur Umsetzung des Modells einbeziehen. Wenn eine Automatisierung von Entscheidungen erforderlich ist, stellen Sie sicher, dass die Mitarbeiter*innen in der Lage sind, Herausforderungen bei der Modellausgabe und -umsetzung zu prüfen, zu erkennen und zu lösen.
• Richten Sie ein klares System der Verantwortlichkeit und Governance ein, um Abhilfe- oder Korrekturmaßnahmen durchzuführen, falls Verhaltensweisen von Modellen als unfair oder potenziell schädlich angesehen werden.

Wir erkennen an, dass jeder einzelne Mensch, jedes Unternehmen und jede Region eigene Überzeugungen und Standards vertritt, die sich in der KI-Journey widerspiegeln sollten. Wir teilen unsere Sichtweise mit Ihnen, während Sie dabei sind, die Entwicklung Ihrer eigenen Leitprinzipien zu prüfen.

Tipp

Brainstormen Sie einen Moment, um weitere Beispiele für jedes der Prinzipien für verantwortungsvolle KI zu finden.

Diese Grundsätze vermitteln eine allgemeine Vorstellung davon, wie wir bei der Entwicklung und Nutzung von KI vorgehen sollten. Dennoch müssen sie auf praktischer Ebene umgesetzt werden. Als Nächstes untersuchen wir, wie die Einhaltung dieser Grundsätze mit einem KI-Governancesystem sichergestellt werden kann.