Úvod
Množství uživatelem generovaného obsahu, který se publikuje online, se rychle zvětšuje. Stále více si také uvědomujeme potřebu chránit všechny uživatele před nevhodným nebo škodlivým obsahem.
Azure AI Content Safety je služba AI navržená tak, aby vývojářům pomohla zahrnout do svých aplikací a služeb pokročilé zabezpečení obsahu.
Výzvy při udržování bezpečných a respektných online prostorů se rozšiřují pro vývojářské týmy zodpovědné za hostování online diskuzí. Azure AI Content Safety identifikuje potenciálně nebezpečný obsah a pomáhá organizacím dodržovat předpisy a splňovat vlastní standardy kvality.
Potřeba zlepšení bezpečnosti online obsahu má čtyři hlavní faktory:
- Zvýšení škodlivého obsahu: Došlo k obrovskému nárůstu online obsahu generovaného uživatelem, včetně škodlivého a nevhodného obsahu.
- Regulační tlaky: Vládní tlak na regulaci online obsahu.
- Transparentnost: Uživatelé potřebují transparentnost ve standardech kon režim stanu ration a vynucování.
- Složitý obsah: Pokroky v technologii usnadňují uživatelům publikování multimodálního obsahu a videí.
Poznámka:
Azure AI Content Safety nahrazuje Azure Content Moderator, který byl vyřazen v únoru 2024 a bude vyřazen do února 2027.
V tomto modulu se dozvíte o klíčových funkcích zabezpečení obsahu Azure AI a o tom, kdy je možné je použít.