Cvičení – integrace s platformou Contoso Camping Store
V tomto workshopu jste použili rozhraní uživatelského rozhraní Azure AI Content Safety k otestování moderování a bezpečnostních řešení pro generování umělé inteligence. Všechny testy, které jste spustili v rámci tohoto workshopu, ale mají také k dispozici kód, který lze použít přímo na kód platformy Contoso Camping Store. Poskytnutý vzorový kód je zdokumentovaný užitečnými informacemi k vysvětlení logiky kódu.
Při úpravě úrovní prahových hodnot pro filtry se odpovídající kód aktualizuje tak, aby odrážel vaše aktuální nastavení. Pojďme například získat přístup k ukázce kódu pro nástroj Moderation textu. Na obrazovce Moderování textového obsahu je tlačítko Zobrazit kód , které vám poskytne kód příslušné funkce. Podívejte se na kód, abyste získali představu o struktuře kódu.
V nástroji Content Safety Studio vyberte Moderování textového obsahu.
V části Test vyhledejte a vyberte </> Zobrazit kód.
V rozevíracím seznamu Jazyk vyberte Python a zobrazte kód.
Při úpravě prahových úrovní pro kategorie změní slovník reject_thresholds v rámci vzorového kódu hodnotu odpovídající kategorie. Upravte prahové úrovně pro kategorie a prohlédněte si vzorový kód, abyste viděli, jak se hodnoty pro každou kategorii mění.
Poznámka:
Pokud kategorii zakážete, vzorový kód upraví odpovídající hodnotu na -1.
Pokud se rozhodnete začít konfigurovat filtry a testovat možnosti detekce modelu v azure AI Studiu, nezapomeňte použít vzorový kód pro každou funkci zabezpečení obsahu Azure AI.