Delen via

Verantwoorde AI-overwegingen voor intelligente applicatiewerklasten

  • Artikel

Intelligente toepassingsworkloads moeten voldoen aan de principes van verantwoorde AI om eerlijkheid, verantwoordingsplicht, transparantie en ethisch gedrag te garanderen.

Ontwerp het AI-systeem zodanig dat alle gebruikers eerlijk worden behandeld, dat ontwikkelaars en gebruikers verantwoordelijk worden gehouden voor de prestaties, dat transparantie in de AI-activiteiten wordt gewaarborgd en dat ethische normen worden nageleefd.

Bij Microsoft zetten we ons in voor de vooruitgang van AI, waarbij de mens centraal staat. Generatieve modellen bieden aanzienlijke potentiële voordelen, maar zonder zorgvuldig ontwerp en doordachte maatregelen kunnen dergelijke modellen onjuiste of zelfs schadelijke inhoud genereren. Microsoft heeft aanzienlijke investeringen gedaan om misbruik en onbedoelde schade te helpen voorkomen. Dit omvat onder andere het opnemen van de principes voor verantwoord AI-gebruik van Microsoft, het aannemen van een gedragscode, het bouwen van inhoudsfilters ter ondersteuning van klanten en het verstrekken van informatie en richtlijnen voor verantwoorde AI, waar klanten rekening mee moeten houden bij het gebruik van generatieve AI.

Power Platform-copilots en Generatie AI-functie volgen een reeks kernpraktijken voor beveiliging en privacy, en de Microsoft-standaard voor verantwoorde AI. Power Platform-gegevens worden beschermd door uitgebreide, toonaangevende compliance, beveiligings- en privacycontroles.

Meer informatie:

Kernprincipes van verantwoorde AI

De kernprincipes van verantwoorde AI zijn eerlijkheid, verantwoordingsplicht, transparantie en ethiek. Om ervoor te zorgen dat een intelligente toepassingsworkload die is gebouwd met Power Platform aan deze kernprincipes voldoet, zijn verschillende belangrijke praktijken nodig:

  • Eerlijkheid: gebruik diverse en representatieve trainingsgegevens om vooroordelen te minimaliseren. Werk de trainingsgegevens regelmatig bij en schakel auditors in om de eerlijkheid en billijkheid te valideren.
  • Verantwoording: definieer duidelijke rollen en verantwoordelijkheden voor teamleden die betrokken zijn bij het AI-project. Stel ethische normen op die eerlijkheid en verantwoordingsplicht voorop stellen en houd u daaraan.
  • Transparantie: zorg ervoor dat gebruikers weten dat ze een workload gebruiken waarin generatieve AI-mogelijkheden worden gebruikt. Communiceer duidelijk waarom er voor een AI-oplossing is gekozen, hoe deze is ontworpen en hoe deze wordt gemonitord en bijgewerkt.
  • Ethiek: bevorder een inclusief personeelsbestand en vraag al vroeg in het ontwikkelingsproces om input van diverse gemeenschappen. Beoordeel en test modellen regelmatig op ethische bezwaren en prestatieverschillen. Stel een governancekader in dat regelmatige audits omvat.

Integreer deze werkwijzen in uw ontwikkelings- en implementatieprocessen om een intelligente toepassingsworkload te creëren die voldoet aan de kernprincipes van verantwoorde AI.

Gegevensprivacy en -beveiliging

Het waarborgen van de privacy van gegevens is van cruciaal belang, vooral omdat de intelligente toepassingsworkload gevoelige gegevens kan verwerken. Bij het plannen van een intelligente toepassingsworkload met Power Platform is het essentieel om verschillende belangrijke risico's aan te pakken en effectieve beperkingsstrategieën te implementeren:

  • Platformfuncties: zorg dat u weet welke systeemeigen controles en platformfuncties uw gegevens beschermen. Microsoft Copilot is gebouwd op de Microsoft Azure OpenAI Service en wordt volledig in de Azure-cloud uitgevoerd. Copilot gebruikt OpenAI-modellen met alle beveiligingsmogelijkheden van Microsoft Azure. Copilot is geïntegreerd in Microsoft-services zoals Dynamics 365 en Power Platform en neemt het waardevolle beveiligings-, privacy- en compliancebeleid en de processen van deze producten over, zoals meervoudige verificatie en nalevingsgrenzen.
  • Gegevensversleuteling: service-side technologieën worden gebruikt om organisatie-inhoud zowel in rust als onderweg te versleutelen voor een robuuste beveiliging. Verbindingen worden beveiligd met Transport Layer Security (TLS) en gegevensoverdrachten tussen Dynamics 365, Power Platform en Azure OpenAI vinden plaats via het Microsoft-backbone-netwerk om zowel de betrouwbaarheid als de veiligheid te waarborgen. Meer informatie over versleuteling in de Microsoft Cloud.
  • Toegangsbeheer: gegevens worden aan Copilot (of een aangepaste agent) verstrekt op basis van het toegangsniveau van de huidige gebruiker. Implementeer op rollen gebaseerd toegangsbeheer (RBAC) met behulp van Microsoft Entra ID om ervoor te zorgen dat alleen gemachtigde gebruikers toegang hebben tot gegevens. Pas het principe van de minste privileges toe om de toegang te beperken tot alleen datgene wat noodzakelijk is.
  • Monitoring en controle: detecteer en reageer op potentiële beveiligingsincidenten door regelmatig de toegang tot en het gebruik van het AI-systeem te monitoren. Houd gedetailleerde controlelogboeken bij om de toegang tot gegevens en wijzigingen bij te houden.
  • Naleving en governance: zorg voor naleving van relevante regelgeving inzake gegevensbescherming, zoals AVG (algemene verordening gegevensbescherming), HIPAA (Health Insurance Portability and Accountability Act) en CCPA (California Consumer Privacy Act). Implementeer ethische AI-praktijken om vooroordelen te voorkomen en eerlijke AI-resultaten te garanderen.
  • Gebruikerseducatie en -training: train gebruikers over best practices voor beveiliging en het belang van gegevensprivacy. Houd gebruikers op de hoogte van updates en wijzigingen in beveiligingsbeleid en -procedures.

Meer informatie: Veelgestelde vragen over de beveiliging en privacy van Copilot-gegevens voor Dynamics 365 en Power Platform

Bewustzijn en vermindering van vooroordelen

Erken het belang dat vooroordelen moeten worden aangepakt in het systeem en zorg voor eerlijkheid om vooroordelen in AI-reacties te voorkomen.

  • Diverse en representatieve gegevens: zorg ervoor dat de trainingsgegevens divers en representatief zijn voor verschillende demografieën om inherente vertekeningen te minimaliseren. Controleer de gegevens regelmatig op vooroordelen en onevenwichtigheden en neem indien nodig corrigerende maatregelen.
  • Hulpmiddelen voor het detecteren en beperken van vertekening: gebruik hulpmiddelen en technieken om vertekening in AI-modellen te detecteren, zoals statistische analyses en eerlijkheidsmetingen. Pas technieken om vooroordelen weg te nemen toe, zoals resampling, reweighting of adversarial debiasing, om de bias in de modellen te verminderen.
  • Menselijke betrokkenheid: integreer menselijke beoordeling en feedbacklussen om vertekening die de AI zou kunnen introduceren, te identificeren en corrigeren. Stel een ethische commissie of bestuursraad in om toezicht te houden op de ontwikkeling en implementatie van AI en ervoor te zorgen dat aan de ethische normen wordt voldaan.
  • Transparantie en vertrouwen: zorg ervoor dat gebruikers weten dat ze een workload gebruiken waarin generatieve AI-mogelijkheden worden gebruikt. Geef duidelijk aan waarom er voor een AI-oplossing is gekozen en geef informatie over hoe de oplossing is ontworpen en hoe deze wordt gemonitord en bijgewerkt.
  • Continue monitoring en verbetering: controleer het AI-systeem voortdurend op vertekening en prestatieproblemen en werk de modellen indien nodig bij. Zorg ervoor dat modellen eerlijk en onbevooroordeeld blijven door ze regelmatig opnieuw te trainen met actuele en meer diverse gegevens.

Doorlopende monitoring en evaluatie

Blijf uw intelligente toepassingsworkload verbeteren. Creëer een kader voor continue monitoring en evaluatie en verwerk feedback van gebruikers en veranderende ethische normen in updates.

  • Feedbacklussen: richt feedbackmechanismen in waarmee gebruikers onjuistheden kunnen melden. Deze kunnen vervolgens worden gebruikt om de modellen te verfijnen en verbeteren.
  • Monitoring en controle: detecteer en reageer op potentiële beveiligingsincidenten door regelmatig de toegang tot en het gebruik van het AI-systeem te monitoren. Houd gedetailleerde controlelogboeken bij om de toegang tot gegevens en wijzigingen bij te houden.