Bezpečnost obsahu
Azure AI Content Safety detekuje škodlivý uživatelem generovaný a generovaný obsah umělé inteligence v aplikacích a službách. Funkce v rámci zabezpečení obsahu Azure AI vám můžou pomoct zajistit, aby recenze produktů, příspěvky na fóru a obrázky odpovídaly pokynům k obsahu společnosti Contoso Camping Store.
Bezpečnost obsahu Azure AI nabízí sadu funkcí navržených pro monitorování a moderování obsahu v reálném čase. Patří mezi ně:
Moderování textu: Rozpozná a vyfiltruje škodlivý obsah v textu, jako je například nenávistná řeč, násilí nebo nevhodný jazyk.
Moderování obrázků: Analyzuje obrázky a identifikuje a blokuje obsah, který může být považován za nebezpečný nebo urážlivý.
Multimodální analýza obsahu: Funguje napříč různými typy obsahu a zajišťuje komplexní strategii bezpečnosti obsahu.
Detekce uzemnění: Detekuje a blokuje nesprávné informace ve výstupech modelu a zajišťuje, aby textové odpovědi velkých jazykových modelů byly faktické a přesné na základě poskytnutých zdrojových materiálů.
Prompt Shields: Analyzuje vstupy LLM (Large Language Model) a detekuje útoky na výzvy uživatele a útoky na dokument.
Detekce chráněných materiálů: Identifikuje a blokuje výstupy, které by mohly potenciálně narušit autorská práva vyhledáváním shody proti indexu textového obsahu třetích stran, včetně skladeb, příspěvků, receptů a vybraného webového obsahu.
Tyto funkce jsou založené na špičkových modelech AI, které můžou detekovat širokou škálu potenciálních rizik, hrozeb a problémů s kvalitou. Identifikace těchto problémů vám pomůže zajistit bezpečné a inkluzivní prostředí pro všechny uživatele webu Contoso Camping Store.