Úvod

  • 2 min

Contoso Camping Store vyvíjí nové funkce založené na umělé inteligenci pro svůj web, které zlepšují interakci a bezpečnost uživatelů. Jako vývojář máte za úkol integrovat funkce Azure AI Content Safety do platformy obchodu. Vaším cílem je zajistit, aby všechny konverzace zákaznické podpory a uživatelsky generovaný obsah, jako jsou recenze produktů a obrázky, dodržovaly pokyny k obsahu společnosti a podporovaly bezpečné a inkluzivní prostředí pro všechny uživatele. Pro účely testování se rozhodnete používat moderování a bezpečnostní funkce v azure AI Studiu.

Cíle výuky

Dokončením tohoto modulu můžete:

  • Nakonfigurujte filtry a úrovně prahových hodnot pro blokování škodlivého obsahu.
  • Proveďte moderování textu a obrázku pro škodlivý obsah.
  • Analyzujte a vylepšete metriky přesnosti, úplnosti a F1 Skóre.
  • Zjištění uzemnění ve výstupu modelu
  • Zmírní přímé a nepřímé injektáže výzev.
  • Konfigurace výstupního filtru pro kód

Požadavky