Introduzione
La quantità di contenuti generati dall'utente che vengono pubblicati online è in rapida crescita. Siamo sempre più consapevoli della necessità di proteggere tutti da contenuti inappropriati o dannosi.
Sicurezza dei contenuti di Azure AI è un servizio di intelligenza artificiale progettato per aiutare gli sviluppatori a includere sicurezza avanzata dei contenuti nelle applicazioni e nei servizi.
Le sfide nella gestione di spazi online sicuri e rispettosi stanno crescendo per i team di sviluppo responsabili dell'hosting di discussioni online. Sicurezza dei contenuti di Intelligenza artificiale di Azure identifica il contenuto potenzialmente non sicuro e aiuta le organizzazioni a rispettare le normative e a soddisfare i propri standard di qualità.
La necessità di migliorare la sicurezza dei contenuti online ha quattro fattori principali:
- Aumento del contenuto dannoso: C'è stata una crescita enorme nei contenuti online generati dall'utente, inclusi contenuti dannosi e inappropriati.
- Pressioni normative: Le pressioni governative per regolare i contenuti online.
- Trasparenza: Gli utenti hanno bisogno di trasparenza negli standard di moderazione del contenuto e nell'applicazione.
- Contenuto complesso: I progressi nella tecnologia rendono più semplice per gli utenti pubblicare contenuti e video multilicenza.
Nota
Sicurezza dei contenuti di Azure AI sostituisce Azure Content Moderator, deprecato a febbraio 2024, che verrà ritirato entro febbraio 2027.
In questo modulo verranno fornite informazioni sulle funzionalità principali di Sicurezza dei contenuti di Intelligenza artificiale di Azure e quando è possibile usare ognuna di esse.