Introduktion
Mängden användargenererat innehåll som publiceras online växer snabbt. Vi är också alltmer medvetna om behovet av att skydda alla mot olämpligt eller skadligt innehåll.
Azure AI Content Safety är en AI-tjänst som är utformad för att hjälpa utvecklare att inkludera avancerad innehållssäkerhet i sina program och tjänster.
Utmaningarna med att upprätthålla säkra och respektfulla onlineutrymmen växer för utvecklarteam som ansvarar för onlinediskussioner. Azure AI Content Safety identifierar potentiellt osäkert innehåll och hjälper organisationer att följa regler och uppfylla sina egna kvalitetsstandarder.
Behovet av att förbättra säkerheten för onlineinnehåll har fyra huvudsakliga faktorer:
- Ökning av skadligt innehåll: Det har skett en enorm ökning av användargenererat onlineinnehåll, inklusive skadligt och olämpligt innehåll.
- Regeltryck: Myndighetstryck för att reglera onlineinnehåll.
- Transparens: Användarna behöver insyn i standarder för tältläge ration och efterlevnad.
- Komplext innehåll: Tekniska framsteg gör det enklare för användare att publicera multimodalt innehåll och videor.
Kommentar
Azure AI Content Safety ersätter Azure Content Moderator, som blev inaktuell i februari 2024 och kommer att dras tillbaka i februari 2027.
I den här modulen får du lära dig om de viktigaste funktionerna i Azure AI Content Safety och när var och en kan användas.