Domyślne zasady bezpieczeństwa zawartości
Usługa Azure OpenAI Service obejmuje domyślne zasady bezpieczeństwa stosowane do wszystkich modeli, z wyłączeniem interfejsu Azure OpenAI Whisper. Te konfiguracje zapewniają domyślnie środowisko odpowiedzialne, w tym modele filtrowania zawartości, listy zablokowanych, przekształcanie monitów, poświadczenia zawartości i inne.
Domyślne bezpieczeństwo ma na celu ograniczenie ryzyka w różnych kategoriach, takich jak nienawiść i sprawiedliwość, seksualna, przemoc, samookaleczenia, chroniona zawartość materialna i ataki iniekcji monitu użytkownika. Aby dowiedzieć się więcej na temat filtrowania zawartości, odwiedź naszą dokumentację opisującą kategorie i poziomy ważności.
Wszystkie zasady bezpieczeństwa można konfigurować. Aby dowiedzieć się więcej na temat możliwości konfigurowania, zobacz dokumentację dotyczącą konfigurowania filtrowania zawartości.
Modele tekstowe
Modele tekstowe w usłudze Azure OpenAI Service mogą przyjmować i generować zarówno tekst, jak i kod. Te modele wykorzystują filtry zawartości tekstowej platformy Azure, aby wykrywać i zapobiegać szkodliwej zawartości. Ten system działa zarówno na monitach, jak i na ukończeniach.
| Kategoria ryzyka | Monit/zakończenie | Próg ważności |
|---|---|---|
| Nienawiść i sprawiedliwość | Monity i zakończenia | Śred. |
| Przemoc | Monity i zakończenia | Śred. |
| Seksualny | Monity i zakończenia | Śred. |
| Samookaleczenia | Monity i zakończenia | Śred. |
| Atak polegający na wstrzyknięciu monitu użytkownika (Jailbreak) | Polecenia | Nie dotyczy |
| Materiał chroniony — tekst | Uzupełnienia | Nie dotyczy |
| Materiał chroniony — kod | Uzupełnienia | Nie dotyczy |
Modele przetwarzania obrazów
Modele czatów z obsługą przetwarzania obrazów
| Kategoria ryzyka | Monit/zakończenie | Próg ważności |
|---|---|---|
| Nienawiść i sprawiedliwość | Monity i zakończenia | Śred. |
| Przemoc | Monity i zakończenia | Śred. |
| Seksualny | Monity i zakończenia | Śred. |
| Samookaleczenia | Monity i zakończenia | Śred. |
| Identyfikacja osób i wnioskowania poufnych atrybutów | Polecenia | Nie dotyczy |
| Atak polegający na wstrzyknięciu monitu użytkownika (Jailbreak) | Polecenia | Nie dotyczy |
Modele generowania obrazów
| Kategoria ryzyka | Monit/zakończenie | Próg ważności |
|---|---|---|
| Nienawiść i sprawiedliwość | Monity i zakończenia | Niski |
| Przemoc | Monity i zakończenia | Niski |
| Seksualny | Monity i zakończenia | Niski |
| Samookaleczenia | Monity i zakończenia | Niski |
| Poświadczenia zawartości | Uzupełnienia | Nie dotyczy |
| Zwodnicze pokolenie kandydatów politycznych | Polecenia | Nie dotyczy |
| Przedstawianie osób publicznych | Polecenia | Nie dotyczy |
| Atak polegający na wstrzyknięciu monitu użytkownika (Jailbreak) | Polecenia | Nie dotyczy |
| Materiał chroniony — znaki sztuki i studia | Polecenia | Nie dotyczy |
| Wulgaryzmy | Polecenia | Nie dotyczy |
Oprócz powyższych konfiguracji bezpieczeństwa usługa Azure OpenAI DALL-E jest również domyślnie wyposażona w transformację monitu. Ta transformacja odbywa się na wszystkich monitach o zwiększenie bezpieczeństwa oryginalnego monitu, w szczególności w kategoriach ryzyka różnorodności, zwodnicze pokolenie kandydatów politycznych, przedstawienie osób publicznych, materiałów chronionych i innych.