Výchozí zásady zabezpečení obsahu
Služba Azure OpenAI zahrnuje výchozí bezpečnost použitou pro všechny modely s výjimkou Azure OpenAI Whisper. Tyto konfigurace poskytují ve výchozím nastavení zodpovědné prostředí, včetně modelů filtrování obsahu, seznamů blokovaných položek, transformace výzvy, přihlašovacích údajů k obsahu a dalších.
Cílem výchozí bezpečnosti je zmírnit rizika, jako jsou nenávist a nestrannost, sexuální, násilí, sebepoškozování, chráněný materiálový obsah a útoky prostřednictvím injektáže uživatelů. Další informace o filtrování obsahu najdete v naší dokumentaci popisující kategorie a úrovně závažnosti.
Veškerá bezpečnost je konfigurovatelná. Další informace o konfigurovatelnosti najdete v naší dokumentaci ke konfiguraci filtrování obsahu.
Textové modely: GPT-4, GPT-3.5
Textové modely ve službě Azure OpenAI mohou převzít a generovat text i kód. Tyto modely využívají modely filtrování textového obsahu v Azure k detekci a prevenci škodlivého obsahu. Tento systém funguje na příkazovém řádku i na dokončení.
| Kategorie rizika | Výzva/dokončení | Prahová hodnota závažnosti |
|---|---|---|
| Nenávist a nestrannost | Výzvy a dokončení | Střední |
| Násilí | Výzvy a dokončení | Střední |
| Sexuální | Výzvy a dokončení | Střední |
| Sebepoškozování | Výzvy a dokončení | Střední |
| Útok prostřednictvím injektáže uživatele (Jailbreak) | Výzvy | – |
| Chráněný materiál – text | Dokončení | – |
| Chráněný materiál – kód | Dokončení | – |
Modely obrazu: GPT-4o, GPT-4 Turbo, DALL-E 3, DALL-E 2
GPT-4o a GPT-4 Turbo
| Kategorie rizika | Výzva/dokončení | Prahová hodnota závažnosti |
|---|---|---|
| Nenávist a nestrannost | Výzvy a dokončení | Střední |
| Násilí | Výzvy a dokončení | Střední |
| Sexuální | Výzvy a dokončení | Střední |
| Sebepoškozování | Výzvy a dokončení | Střední |
| Identifikace jednotlivců a odvození citlivých atributů | Výzvy | – |
| Útok prostřednictvím injektáže uživatele (Jailbreak) | Výzvy | – |
DALL-E 3 a DALL-E 2
| Kategorie rizika | Výzva/dokončení | Prahová hodnota závažnosti |
|---|---|---|
| Nenávist a nestrannost | Výzvy a dokončení | Nízká |
| Násilí | Výzvy a dokončení | Nízká |
| Sexuální | Výzvy a dokončení | Nízká |
| Sebepoškozování | Výzvy a dokončení | Nízká |
| Přihlašovací údaje k obsahu | Dokončení | – |
| Deceptivní generace politických kandidátů | Výzvy | – |
| Znázornění veřejných obrázků | Výzvy | – |
| Útok prostřednictvím injektáže uživatele (Jailbreak) | Výzvy | – |
| Chráněný materiál – umělecké a studiové znaky | Výzvy | – |
| Vulgární výrazy | Výzvy | – |
Kromě výše uvedených konfigurací zabezpečení nabízí Azure OpenAI DALL-E také ve výchozím nastavení transformace výzvy . K této transformaci dochází na všech výzev k posílení bezpečnosti původní výzvy, konkrétně v rizikových kategoriích rozmanitosti, deceptivní generaci politických kandidátů, znázornění veřejných osobností, chráněných materiálů a dalších.