Freigeben über

Überlegungen zu verantwortungsvoller KI für intelligente Anwendungs-Workloads

  • Artikel

Intelligente Anwendungs-Workloads müssen den Prinzipien verantwortungsvoller KI entsprechen, damit Fairness, Verantwortlichkeit, Transparenz und ethisches Verhalten gewährleistet sind.

Gestalten Sie das KI-System so, dass alle Benutzenden fair behandelt werden, Entwicklungsfachkräfte und Benutzende für seine Leistung die Verantwortung tragen, der KI-Einsatz transparent ist und ethische Standards eingehalten werden.

Microsoft engagiert sich für die Weiterentwicklung von KI, die auf Prinzipien beruht, bei denen der Mensch an erster Stelle steht. Generative Modelle haben erhebliche potenzielle Vorteile, doch ohne sorgfältiges Design und durchdachte Eindämmungsmaßnahmen können solche Modell potenziell falsche oder sogar schädliche Inhalte generieren. Microsoft hat erhebliche Investitionen getätigt, um sich vor Missbrauch und unbeabsichtigten Schäden zu schützen, darunter die Einbeziehung der Grundsätze von Microsoft für den verantwortungsvollen Einsatz von verantwortungsvollen Einsatz von KI, die Verabschiedung eines Verhaltenskodex, die Entwicklung von Inhaltsfiltern zur Unterstützung von Kunden und die Bereitstellung von verantwortungsvoller KI für Informatioen und Anleitung, die Kunden bei der Verwendung generativer KI berücksichtigen. sollten.

Power Platform Copilot und generative KI-Funktionen folgen einer Reihe grundlegender Sicherheitspraktiken und dem Microsoft Standard der verantwortungsvollen KI. Die Power Platform Daten werden durch umfassende, branchenführende Compliance-, Sicherheits- und Datenschutzsteuerelementen geschützt.

Erfahren Sie mehr:

Grundprinzipien verantwortungsvoller KI

Zu den Grundprinzipien einer verantwortungsvollen KI gehören Fairness, Verantwortlichkeit, Transparenz und Ethik. Um sicherzustellen, dass eine intelligente Anwendungs-Workload, die mit Power Platform diesen Grundprinzipien erstellt wurde, eingehalten wird, sind mehrere wichtige Praktiken erforderlich:

  • Fairness: Verwenden Sie vielfältige und repräsentative Trainingsdaten, um Verzerrungen zu minimieren. Aktualisieren Sie Trainingsdaten regelmäßig und ziehen Sie Fachkräfte hinzu, die sie auf Fairness und Prinzipien der Gleichstellung überprüfen.
  • Verantwortlichkeit: Definieren Sie klare Rollen und Verantwortlichkeiten für die Teammitglieder, die an dem KI-Projekt beteiligt sind. Legen Sie ethische Standards, die Fairness und Verantwortlichkeit in den Vordergrund stellen, fest und halten Sie sie ein.
  • Transparenz: Stellen Sie sicher, dass Benutzer wissen, dass sie eine Workload verwenden, die generative KI-Funktionen verwendet. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Ethik: Fördern Sie eine integrative Belegschaft und holen Sie frühzeitig im Entwicklungsprozess Input von verschiedenen Gemeinschaften ein. Bewerten und testen Sie Modelle regelmäßig auf ethische Bedenken und Leistungsunterschiede. Legen Sie einen Governance-Rahmen fest, zu dem auch regelmäßige Prüfungen gehören.

Integrieren Sie diese Vorgehensweisen in Ihre Entwicklungs- und Bereitstellungsprozesse, um einen intelligenten Anwendungs-Workload zu erstellen, der den Grundprinzipien verantwortungsvoller KI entspricht.

Datenschutz und Sicherheit

Die Sicherstellung des Datenschutzes ist von entscheidender Bedeutung, insbesondere da der intelligente Anwendungs-Workload eventuell sensible Daten verarbeitet. Bei der Planung einer intelligenten Anwendungs-Workload mit Power Platform ist es wichtig, mehrere Hauptrisiken zu adressieren und effektive Strategien zur Risikominderung zu implementieren:

  • Plattformfunktionen: Verstehen Sie native Steuerelemente und Plattformfunktionen, die Ihre Daten schützen. Microsoft Copilot basiert auf dem Microsoft Azure OpenAI-Dienst und wird vollständig in der Azure-Cloud ausgeführt. Copilot verwendet OpenAI-Modelle mit allen Sicherheitsfunktionen von Microsoft Azure. Copilot ist in Microsoft-Dienste wie Dynamics 365 und Power Platform integriert und übernimmt ihre Sicherheits-, Datenschutz- und Compliance-Richtlinien und -Prozesse, wie die Multifaktor-Authentifizierung und Compliance-Grenzen.
  • Datenverschlüsselung: Dienstseitige Technologien verschlüsseln Unternehmensinhalte sowohl im Ruhezustand als auch während der Übertragung und sorgen so für eine robuste Sicherheit. Verbindungen werden durch Transport Layer Security (TLS) geschützt und Datenübertragungen zwischen Dynamics 365, Power Platform und Azure OpenAI erfolgen über das Microsoft-Backbone-Netzwerk, womit Zuverlässigkeit und Sicherheit gewährleistet werden. Mehr erfahren über Verschlüsselung in der Microsoft Cloud.
  • Zugriffssteuerung: Die an Copilot übermittelten Daten werden nur basierend auf der Zugriffsebene des Copiloten (oder einesn benutzerdefinierten Agenten) bereitgestellt. Implementieren Sie die rollenbasierte Zugriffssteuerung (RBAC) mithilfe von Microsoft Entra ID, um sicherzustellen, dass nur autorisierte Benutzer auf Daten zugreifen können. Wenden Sie das Prinzip der geringstmöglichen Berechtigungen an, um den Zugriff auf das Notwendige zu beschränken.
  • Überwachung und Prüfung: Erkennen und reagieren Sie auf potenzielle Sicherheitsvorfälle, indem Sie den Zugriff und die Nutzung des KI-Systems regelmäßig überwachen. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.
  • Compliance und Governance: Stellen Sie die Einhaltung relevanter Datenschutzbestimmungen wie DSGVO (Datenschutz-Grundverordnung), HIPAA (Health Insurance Portability and Accountability Act) und CCPA (California Consumer Privacy Act) sicher. Implementieren Sie ethische KI-Praktiken, um bei den KI-Ergebnissen Verzerrungen zu vermeiden und Fairness zu gewährleisten.
  • Benutzerschulung und -ausbildung: Trainieren Sie Benutzer für Best Practices für die Sicherheit und die Bedeutung des Datenschutzes. Halten Sie die Benutzenden über Aktualisierungen und Änderungen an Sicherheitsrichtlinien und -verfahren auf dem Laufenden.

Mehr erfahren: Häufig gestellte Fragen zur Datensicherheit und zum Datenschutz von Copilot für Dynamics 365 und Power Platform

Bewusstsein für Verzerrungen und Minderung

Erkennen Sie, wie wichtig es ist, Verzerrungen im System anzugehen, und sorgen Sie für Fairness, um Verzerrungen bei KI-Antworten zu vermeiden.

  • Vielfältige und repräsentative Daten: Stellen Sie sicher, dass die Trainingsdaten vielfältig und repräsentativ für verschiedene demografische Merkmale sind, um inhärente Verzerrungen zu minimieren. Prüfen Sie die Daten regelmäßig auf Verzerrungen und Ungleichgewichte und ergreifen Sie bei Bedarf Gegenmaßnahmen.
  • Tools zur Erkennung und Minderung von Verzerrungen: Verwenden Sie Tools und Techniken, um Verzerrungen in den KI-Modellen zu erkennen, z. B. statistische Analysen und Fairness-Metriken. Implementieren Sie Debiasing-Techniken, einschließlich Resampling, Reweighting oder Adversarial Debiasing, um Verzerrungen in den Modellen zu reduzieren.
  • Human-in-the-Loop: Integrieren Sie menschliche Überprüfungs- und Feedbackschleifen, um Verzerrungen zu identifizieren und zu korrigieren, die die KI möglicherweise einführt. Richten Sie einen Ethikausschuss oder ein Governance-Board ein, um die Entwicklung und den Einsatz von KI zu überwachen und sicherzustellen, dass ethische Standards eingehalten werden.
  • Transparenz und Vertrauen: Stellen Sie sicher, dass Benutzer wissen, dass sie eine Workload verwenden, die generative KI-Funktionen verwendet. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, und stellen Sie Informationen dazu bereit, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Kontinuierliche Überwachung und Verbesserung: Überwachen Sie das KI-System kontinuierlich auf Verzerrungen und Leistungsprobleme und aktualisieren Sie die Modelle nach Bedarf. Stellen Sie sicher, dass die Modelle fair und von Verzerrungen frei bleiben, indem Sie sie regelmäßig mit aktualisierten und vielfältigeren Daten neu trainieren.

Laufende Überwachung und Evaluierung

Verbessern Sie Ihren intelligenten Anwendungs-Workload ständig weiter. Schaffen Sie einen Rahmen für die kontinuierliche Überwachung und Evaluierung und integrieren Sie das Feedback der Benutzenden und die sich weiterentwickelnden ethischen Standards in die Updates.

  • Feedbackschleifen: Richten Sie Feedback-Mechanismen ein, in denen Benutzer Ungenauigkeiten melden können, die dann zur Verfeinerung und Verbesserung der Modelle verwendet werden können.
  • Überwachung und Prüfung: Erkennen und reagieren Sie auf potenzielle Sicherheitsvorfälle, indem Sie den Zugriff und die Nutzung des KI-Systems regelmäßig überwachen. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.