Co je Bezpečnost obsahu
Azure AI Content Safety je sada pokročilých con režim stanu rating funkcí, které je možné začlenit do vašich aplikací a služeb. Zabezpečení obsahu Azure AI je k dispozici jako prostředek na webu Azure Portal.
Online ochrana obsahu je nutná v rostoucím počtu situací. Nejen, že se zabýváme moderováním obsahu generovaného lidmi, ale musíme také chránit před škodlivým použitím AI.
Důvěřovat uživateli generovanému obsahu
Sociální interakce je stále více součástí mnoha digitálních prostorů. Originální uživatelem generovaný obsah se považuje za nezávislý a důvěryhodný a používá se společně s reklamou a marketingem. Různá odvětví podporují své zákazníky, aby se vzájemně spojili a jejich značkou.
Škodlivý obsah má mnoho negativních účinků. Škodí důvěryhodným značkám, nedoporučuje uživatelům účastnit se online fór a může mít zničující dopad na jednotlivce.
Zabezpečení obsahu Azure AI je navržené tak, aby se používalo v aplikacích a službách, které chrání před škodlivým uživatelem generovaným a generovaným obsahem AI.
Zabezpečení obsahu v Azure AI Foundry
Azure AI Content Safety je k dispozici jako součást služby Azure AI Foundry, sjednocená platforma, která umožňuje prozkoumat mnoho různých služeb Azure AI, včetně zabezpečení obsahu.
Na domovské stránce Azure AI Foundry se posuňte dolů a vyberte Prozkoumat služby Azure AI. Tady můžete prozkoumat zabezpečení obsahu tak , že vyberete Zobrazit všechny možnosti zabezpečení obsahu.
Azure AI Content Safety Studio umožňuje zkoumat a testovat funkce zabezpečení obsahu pro sebe. Vyberte funkci, kterou chcete vyzkoušet, a pak vyberte Vyzkoušet. Uživatelské rozhraní pak můžete použít k otestování vzorků nebo vlastního materiálu. Výběrem možnosti Zobrazit kód vygenerujete ukázkový kód v jazyce C#, Java nebo Python. Pak můžete zkopírovat a vložit vzorový kód a změnit proměnné tak, aby používaly vlastní data.
Poznámka:
K Nástroji Azure AI Content Studio můžete přistupovat prostřednictvím Azure AI Foundry nebo prostřednictvím nástroje Content Safety Studio.
Postup s asistencí při používání nástroje Azure AI Content Studio najdete v tématu Moderování obsahu a zjištění škod pomocí nástroje Azure AI Content Safety Studio.