Vad är innehållssäkerhet?
Azure AI Content Safety är en uppsättning avancerade funktioner för con tältläge rating som kan införlivas i dina program och tjänster. Azure AI Content Safety är tillgängligt som en resurs i Azure Portal.
Skydd av onlineinnehåll behövs i allt fler situationer. Vi arbetar inte bara med att moderera innehåll som genereras av människor, utan vi måste också skydda oss mot skadlig användning av AI.
Förtroende för användargenererat innehåll
Social interaktion är i allt högre grad en del av många digitala utrymmen. Äkta användargenererat innehåll ses som oberoende och tillförlitligt och används tillsammans med reklam och marknadsföring. Olika branscher uppmuntrar sina kunder att få kontakt med varandra och sitt varumärke.
Skadligt innehåll har många negativa effekter. Det skadar betrodda varumärken, avråder användare från att delta i onlineforum och kan ha en förödande inverkan på individer.
Azure AI Content Safety är utformat för att användas i program och tjänster för att skydda mot skadligt användargenererat och AI-genererat innehåll.
Innehållssäkerhet i Azure AI Foundry
Azure AI Content Safety är tillgängligt som en del av Azure AI Foundry, en enhetlig plattform som gör att du kan utforska många olika Azure AI-tjänster, inklusive Content Safety.
På startsidan för Azure AI Foundry rullar du nedåt och väljer Utforska Azure AI Services. Härifrån kan du utforska Innehållssäkerhet genom att välja Visa alla funktioner för innehållssäkerhet.
Med Azure AI Content Safety Studio kan du utforska och testa funktioner för innehållssäkerhet själv. Välj den funktion som du vill prova och välj sedan Prova. Du kan sedan använda användargränssnittet för att testa exempel eller ditt eget material. Välj Visa kod för att generera exempelkod i C#, Java eller Python. Du kan sedan kopiera och klistra in exempelkoden och ändra variablerna så att de använder dina egna data.
Kommentar
Du kan komma åt Azure AI Content Studio antingen via Azure AI Foundry eller via Content Safety Studio.
Guidad övning med Hjälp av Azure AI Content Studio finns i Moderera innehåll och identifiera skador med Azure AI Content Safety Studio.