Vorbereitung auf die Auswirkungen verantwortungsvoller KI

Abgeschlossen

KI ist die bestimmende Technologie unserer Zeit. Sie ermöglicht bereits jetzt schnellere und tiefgreifendere Fortschritte in fast allen Lebensbereichen und trägt dazu bei, einige der größten gesellschaftlichen Herausforderungen zu bewältigen. Zum Beispiel kann KI Menschen mit Sehbehinderungen dabei helfen, Bilder zu verstehen, indem sie beschreibenden Text für Bilder generiert. Als weiteres Beispiel kann KI Landwirten dabei unterstützen, genügend Nahrungsmittel für die wachsende Weltbevölkerung zu produzieren.

Wir bei Microsoft glauben, dass die Rechenintelligenz der KI genutzt werden sollte, um die angeborene Kreativität und den Einfallsreichtum von Menschen zu stärken. Unsere Vision für KI ist es, jeden Entwickler in die Lage zu versetzen, für Innovationen zu sorgen, Unternehmen in die Lage zu versetzen, Branchen zu transformieren, und Menschen in die Lage zu versetzen, die Gesellschaft zu verändern.

Gesellschaftliche Konsequenzen von künstlicher Intelligenz

Wie bei allen großen technologischen Innovationen in der Vergangenheit hat der Einsatz von KI-Technologie weitreichende Auswirkungen auf die Gesellschaft und wirft komplexe und herausfordernde Fragen darüber auf, wie wir uns die Zukunft vorstellen. Die KI hat Auswirkungen auf die Entscheidungsfindung in allen Branchen, auf die Datensicherheit und den Datenschutz sowie auf die Qualifikationen, die Menschen benötigen, um am Arbeitsplatz erfolgreich zu sein. Mit Blick auf diese Zukunft müssen wir uns diese Fragen stellen:

• Wie entwerfen, realisieren und nutzen wir KI-Systeme, die einen positiven Einfluss auf den Einzelnen und die Gesellschaft haben?
• Wie können wir die Beschäftigten am besten auf die Auswirkungen der KI vorbereiten?
• Wie können wir die Vorteile der KI unter Wahrung der Privatsphäre ausschöpfen?

Die Bedeutung eines verantwortungsvollen Umgangs mit KI

Es ist wichtig zu erkennen, dass das Aufkommen und die Verbreitung neuer intelligenter Technologien in der Gesellschaft auch unbeabsichtigte und unvorhersehbare Konsequenzen nach sich ziehen. Einige dieser Konsequenzen haben beträchtliche ethische Auswirkungen und das Potenzial, ernsthaften Schaden anzurichten. Auch wenn Organisationen die Zukunft nicht vorhersehen können, liegt es in unserer Verantwortung, gemeinsam die unbeabsichtigten Folgen der von uns eingeführten Technologie durch gezielte Planung und ständige Kontrolle zu antizipieren und einzudämmen.

Bedrohungen

Jeder Durchbruch in der KI-Technologie erinnert uns aufs Neue an unsere gemeinsame Verantwortung. Beispielsweise veröffentlichte Microsoft im Jahr 2016 einen Chatbot namens Tay auf X, der aus der Interaktion mit X-Benutzern lernen konnte. Das Ziel bestand darin, den Chatbot in die Lage zu versetzen, menschliche Kommunikation und Persönlichkeitsmerkmale besser nachzubilden. Doch innerhalb von 24 Stunden erkannten die Benutzer*innen, dass der Chatbot aus rassistischen Äußerungen lernen konnte, und verwandelten den Chatbot in ein Instrument für Hassreden. Diese Erfahrung ist ein Beispiel dafür, warum wir bei der Entwicklung von KI-Systemen potenzielle Bedrohungen durch Menschen berücksichtigen müssen.

Neuartige Bedrohungen erfordern eine ständige Weiterentwicklung unseres Ansatzes für verantwortungsvolle KI. Da generative KI es beispielsweise ermöglicht, Videos, Bilder oder Audiodateien in einer Weise zu erstellen oder zu bearbeiten, dass sie täuschend echt wirken, erschwert sie die Überprüfung der Authentizität von Medien. Als Reaktion darauf arbeitet Microsoft gemeinsam mit anderen Technologie- und Nachrichtenunternehmen an der Entwicklung technischer Standards zur Bekämpfung von Manipulationen im Zusammenhang mit Deepfakes.

Hinweis

Um sich auf neue Arten von Angriffen vorzubereiten, die lernende Datasets beeinflussen könnten, hat Microsoft Technologien wie z. B. erweiterte Inhaltsfilter entwickelt und Supervisoren für KI-Systeme mit automatischen Lernfunktionen eingeführt. Die derzeit verfügbaren generativen KI-Modelle (z. B. in Azure KI Services-Instanzen oder Bing Chat) basieren auf diesen Erkenntnissen.

Unausgewogene Ergebnisse

Eine weitere unbeabsichtigte Konsequenz, die Organisationen im Hinterkopf behalten sollten, ist, dass KI gesellschaftliche oder andere Voreingenommenheit ohne bewusste Planung und Gestaltung verstärken kann. Für Entwickler*innen ist es wichtig zu verstehen, wie Einseitigkeit in die Trainingsdaten oder die Machine Learning-Modelle eingebracht werden können. Dieses Problem ist bei vordefinierten Modellen allgegenwärtig, da die Benutzer*innen die Trainingsdaten nicht selbst bearbeiten können.

Stellen Sie sich zum Beispiel ein großes Finanzinstitut vor, das ein Risikobewertungssystem für die Kreditvergabe entwickeln möchte. Beim Testen des Systems vor der Bereitstellung stellen die Entwickler*innen fest, dass es nur Kredite für männliche Kreditnehmer bewilligt. Da das System mit den Daten früherer Kund*innen trainiert wurde, reproduzierte es die frühere sexistische Voreingenommenheit von Kreditfachleuten. Durch die Validierung des Systems vor der Bereitstellung konnten wir das Problem erkennen und beheben, bevor das System in Betrieb genommen wurde.

Hinweis

Bei Microsoft erkunden unsere Forscher Tools und Techniken zur Erkennung und Reduzierung von Voreingenommenheit in KI-Systemen. Vordefinierte Modelle werden zwar gründlich validiert, sollten aber dennoch mit Bedacht eingesetzt werden, und ihre Ergebnisse sollten vor dem Ergreifen von Maßnahmen stets überprüft werden.

Sensible Anwendungsfälle

Ein weiteres Beispiel für unsere Verantwortung, unbeabsichtigte Folgen abzuwenden, sind sensible Technologien wie etwa Gesichtserkennung. In jüngster Zeit gibt es eine wachsende Nachfrage nach Gesichtserkennungstechnologie, insbesondere von Strafverfolgungsbehörden, die das Potenzial der Technologie in Anwendungsbereichen wie der Suche nach vermissten Kindern sehen. Wir sind uns jedoch bewusst, dass diese Technologien die Grundfreiheiten gefährden könnten. Sie könnten zum Beispiel die kontinuierliche Überwachung bestimmter Personen ermöglichen. Wir glauben, dass die Gesellschaft Verantwortung dafür trägt, angemessene Rahmenbedingungen für den Einsatz dieser Technologien festzulegen, einschließlich der Gewährleistung, dass der staatliche Einsatz von Gesichtserkennungstechnologien weiterhin der Rechtsstaatlichkeit unterliegt.

Auch wenn neue Gesetze und Vorschriften erlassen werden müssen, sind diese kein Ersatz für unsere eigene Verantwortung im Umgang mit der KI. Durch die Zusammenarbeit von Unternehmen, Behörden, Nichtregierungsorganisationen und akademischen Forschungseinrichtungen können sensible Anwendungsfälle angegangen und gelöst werden.

Hinweis

Microsoft bewertet und entwickelt Grundsätze, die unsere Arbeit mit Technologien zur Gesichtserkennung regeln. Wir gehen davon aus, dass sich diese Prinzipien im Laufe der Zeit weiterentwickeln werden, da wir ständig dazu lernen und mit Kunden, anderen Technologieunternehmen, Wissenschaftlern, der Zivilgesellschaft und anderen bei dieser Problematik zusammenarbeiten. Microsoft nutzt Verfahren für verantwortungsvolle KI, um diese Probleme zu erkennen, zu verhindern und zu entschärfen, aber sie sollten dennoch bei jedem KI-Projekt berücksichtigt werden.

Als Nächstes werden wir untersuchen, wie die sechs Microsoft-Leitprinzipien für verantwortungsvolle KI in anderen Organisationen angewendet werden können.