Een verantwoorde generatieve AI-oplossing gebruiken

Voltooid

Zodra u potentiële schade hebt geïdentificeerd, kunt u een manier ontwikkelen om hun aanwezigheid te meten en oplossingen voor hen in uw oplossing implementeren, kunt u zich voorbereiden om uw oplossing vrij te geven. Voordat u dit doet, zijn er enkele overwegingen waarmee u een geslaagde release en volgende bewerkingen kunt garanderen.

Volledige prereleasebeoordelingen

Voordat u een generatieve AI-oplossing vrijgeeft, identificeert u de verschillende nalevingsvereisten in uw organisatie en branche en zorgt u ervoor dat de juiste teams de mogelijkheid krijgen om het systeem en de bijbehorende documentatie te bekijken. Veelvoorkomende nalevingsbeoordelingen zijn:

• Juridisch
• Privacy
• Beveiliging
• Toegankelijkheid

De oplossing vrijgeven en gebruiken

Voor een geslaagde release is enige planning en voorbereiding vereist. Houd rekening met de volgende richtlijnen:

• Maak een gefaseerd leveringsplan waarmee u de oplossing in eerste instantie kunt vrijgeven aan een beperkte groep gebruikers. Met deze aanpak kunt u feedback verzamelen en problemen identificeren voordat u ze uitbrengt voor een breder publiek.
• Maak een plan voor incidentrespons met schattingen van de tijd die nodig is om te reageren op onverwachte incidenten.
• Maak een terugdraaiplan dat de stappen definieert om de oplossing terug te zetten naar een eerdere status als er een incident optreedt.
• Implementeer de mogelijkheid om reacties van schadelijke systemen onmiddellijk te blokkeren wanneer ze worden gedetecteerd.
• Implementeer een mogelijkheid om specifieke gebruikers, toepassingen of client-IP-adressen te blokkeren in geval van systeemmisbruik.
• Implementeer een manier om gebruikers feedback te geven en problemen te melden. Stel gebruikers in staat om gegenereerde inhoud te rapporteren als 'onnauwkeurig', 'onvolledig', 'schadelijk', 'aanstootgevend' of anderszins problematisch.
• Houd telemetriegegevens bij waarmee u de tevredenheid van gebruikers kunt bepalen en functionele hiaten of uitdagingen met betrekking tot bruikbaarheid kunt identificeren. Telemetriegegevens die worden verzameld, moeten voldoen aan de privacywetgeving en het beleid van uw eigen organisatie en verplichtingen ten aanzien van de privacy van gebruikers.

Azure AI-inhoudsveiligheid gebruiken

Verschillende Azure AI-resources bieden ingebouwde analyse van de inhoud waarmee ze werken, waaronder Language, Vision en Azure OpenAI met behulp van inhoudsfilters.

Azure AI Content Safety biedt meer functies die gericht zijn op het beschermen van AI en copilots tegen risico's. Deze functies omvatten het detecteren van ongepaste of aanstootgevende taal, zowel van invoer als gegenereerd, en het detecteren van riskante of ongepaste invoer.

Functies in Azure AI Content Safety zijn onder andere:

Functie	Functionaliteit
Promptschilden	Scant op het risico van gebruikersinvoeraanvallen op taalmodellen
Geaardheidsdetectie	Detecteert of tekstreacties worden geaard in de broninhoud van een gebruiker
Detectie van beveiligde materialen	Scant op bekende auteursrechtelijk beschermde inhoud
Aangepaste categorieën	Aangepaste categorieën definiëren voor nieuwe of opkomende patronen

Details en quickstarts voor het gebruik van Azure AI Content Safety vindt u op de documentatiepagina's voor de service.