Standaardbeleid voor inhoudsveiligheid
Azure OpenAI Service bevat standaardbeveiligingsbeleid dat is toegepast op alle modellen, met uitzondering van Azure OpenAI Whisper. Deze configuraties bieden u standaard een verantwoorde ervaring, waaronder modellen voor inhoudsfilters, bloklijsten, prompttransformatie, inhoudsreferenties en andere.
Standaardveiligheid is gericht op het beperken van risico's in verschillende categorieën, zoals haat en billijkheid, seksueel, geweld, zelfbeschadiging, beveiligde materiaalinhoud en aanvallen van gebruikerspromptinjecties. Raadpleeg onze documentatie waarin categorieën en ernstniveaus worden beschreven voor meer informatie over het filteren van inhoud.
Alle veiligheidsbeleidsregels kunnen worden geconfigureerd. Zie de documentatie over het configureren van inhoudsfilters voor meer informatie over de configureerbaarheid.
Tekstmodellen
Tekstmodellen in de Azure OpenAI-service kunnen zowel tekst als code in beslag nemen en genereren. Deze modellen maken gebruik van de tekstinhoudsfilters van Azure om schadelijke inhoud te detecteren en te voorkomen. Dit systeem werkt op zowel prompts als voltooiingen.
| Risicocategorie | Prompt/voltooiing | Drempelwaarde voor ernst |
|---|---|---|
| Haat en billijkheid | Prompts en voltooiingen | Gemiddeld |
| Geweld | Prompts en voltooiingen | Gemiddeld |
| Seksueel | Prompts en voltooiingen | Gemiddeld |
| Zelfschade | Prompts en voltooiingen | Gemiddeld |
| Aanval van gebruikerspromptinjectie (Jailbreak) | Prompts | N.v.t. |
| Beschermd materiaal – tekst | Voltooiingen | N.v.t. |
| Beschermd materiaal – Code | Voltooiingen | N.v.t. |
Vision-modellen
Vision-chatmodellen
| Risicocategorie | Prompt/voltooiing | Drempelwaarde voor ernst |
|---|---|---|
| Haat en billijkheid | Prompts en voltooiingen | Gemiddeld |
| Geweld | Prompts en voltooiingen | Gemiddeld |
| Seksueel | Prompts en voltooiingen | Gemiddeld |
| Zelfschade | Prompts en voltooiingen | Gemiddeld |
| Identificatie van individuen en deductie van gevoelige kenmerken | Prompts | N.v.t. |
| Aanval van gebruikerspromptinjectie (Jailbreak) | Prompts | N.v.t. |
Modellen voor het genereren van installatiekopieën
| Risicocategorie | Prompt/voltooiing | Drempelwaarde voor ernst |
|---|---|---|
| Haat en billijkheid | Prompts en voltooiingen | Beperkt |
| Geweld | Prompts en voltooiingen | Beperkt |
| Seksueel | Prompts en voltooiingen | Beperkt |
| Zelfschade | Prompts en voltooiingen | Beperkt |
| Referenties voor inhoud | Voltooiingen | N.v.t. |
| Misleidende generatie politieke kandidaten | Prompts | N.v.t. |
| Afbeeldingen van openbare figuren | Prompts | N.v.t. |
| Aanval van gebruikerspromptinjectie (Jailbreak) | Prompts | N.v.t. |
| Beschermd materiaal – Illustraties en Studio-tekens | Prompts | N.v.t. |
| Aanstootgevend taalgebruik | Prompts | N.v.t. |
Naast de bovenstaande veiligheidsconfiguraties wordt Azure OpenAI DALL-E standaard ook geleverd met prompttransformatie . Deze transformatie vindt plaats op alle aanwijzingen om de veiligheid van uw oorspronkelijke prompt te verbeteren, met name in de risicocategorieën van diversiteit, misleidende generatie politieke kandidaten, afbeeldingen van publieke figuren, beschermd materiaal en andere.