Obsługa odpowiedzialnego rozwiązania do generowania sztucznej inteligencji
Po zidentyfikowaniu potencjalnych szkód opracuj sposób mierzenia ich obecności i wdrożenia środków zaradczych w rozwiązaniu, możesz przygotować się do wydania rozwiązania. Przed wykonaniem tej czynności należy wziąć pod uwagę pewne kwestie, które ułatwiają zapewnienie pomyślnego wydania i kolejnych operacji.
Ukończ przeglądy wersji wstępnej
Przed udostępnieniem rozwiązania do generowania sztucznej inteligencji zidentyfikuj różne wymagania dotyczące zgodności w organizacji i branży oraz upewnij się, że odpowiednie zespoły mają możliwość przejrzenia systemu i jego dokumentacji. Typowe przeglądy zgodności obejmują:
- Informacje prawne
- Prywatność
- Zabezpieczenia
- Ułatwienia dostępu
Wydawanie i obsługa rozwiązania
Pomyślne wydanie wymaga pewnego planowania i przygotowania. Należy uwzględnić następujące wytyczne:
- Opracowanie planu dostarczania etapowego, który umożliwia początkowe wydanie rozwiązania do ograniczonej grupy użytkowników. Takie podejście umożliwia zbieranie opinii i identyfikowanie problemów przed udostępnieniem szerszej publiczności.
- Utwórz plan reagowania na zdarzenia, który obejmuje oszacowania czasu potrzebnego na reagowanie na nieprzewidziane zdarzenia.
- Utwórz plan wycofywania, który definiuje kroki przywracania rozwiązania do poprzedniego stanu w przypadku wystąpienia zdarzenia.
- Zaimplementuj możliwość natychmiastowego blokowania szkodliwych odpowiedzi systemowych po ich odnalezieniu.
- Zaimplementuj możliwość blokowania określonych użytkowników, aplikacji lub adresów IP klienta w przypadku nieprawidłowego użycia systemu.
- Zaimplementuj sposób przekazywania opinii i zgłaszania problemów przez użytkowników. W szczególności umożliwia użytkownikom zgłaszanie wygenerowanej zawartości jako "niedokładne", "niekompletne", "szkodliwe", "obraźliwe" lub w inny sposób problematyczne.
- Śledzenie danych telemetrycznych, które umożliwiają określenie zadowolenia użytkowników i zidentyfikowanie luk funkcjonalnych lub wyzwań związanych z użytecznością. Zebrane dane telemetryczne powinny być zgodne z przepisami dotyczącymi prywatności oraz zasadami i zobowiązaniami organizacji dotyczącymi prywatności użytkowników.
Korzystanie z Sejf ty zawartości sztucznej inteligencji platformy Azure
Kilka zasobów sztucznej inteligencji platformy Azure zapewnia wbudowaną analizę zawartości, z którą współpracują, w tym język, przetwarzanie obrazów i usługę Azure OpenAI przy użyciu filtrów zawartości.
Usługa Azure AI Content Sejf ty udostępnia więcej funkcji koncentrujących się na zachowaniu bezpieczeństwa sztucznej inteligencji i bezpieczeństwa przed ryzykiem. Te funkcje obejmują wykrywanie nieodpowiedniego lub obraźliwego języka, zarówno z danych wejściowych, jak i generowanych oraz wykrywanie ryzykownych lub nieodpowiednich danych wejściowych.
Funkcje w usłudze Azure AI Content Sejf ty obejmują:
| Funkcja | Funkcje |
|---|---|
| Monituj osłony | Skanuje pod kątem ryzyka ataków wejściowych użytkowników na modele językowe |
| Wykrywanie uziemienia | Wykrywa, czy odpowiedzi tekstowe są uziemione w zawartości źródłowej użytkownika |
| Wykrywanie chronionych materiałów | Skanowanie pod kątem znanych treści chronionych prawami autorskimi |
| Kategorie niestandardowe | Definiowanie kategorii niestandardowych dla wszelkich nowych lub pojawiających się wzorców |
Szczegółowe informacje i przewodniki Szybki start dotyczące korzystania z usługi Azure AI Content Sejf ty można znaleźć na stronach dokumentacji usługi.