Sicurezza dei contenuti
Sicurezza dei contenuti di Azure AI rileva contenuti dannosi generati dagli utenti e dall'intelligenza artificiale nelle applicazioni e nei servizi. Le funzionalità all'interno di Sicurezza dei contenuti di Azure AI consentono di assicurarsi che le recensioni dei prodotti, i post del forum e le immagini siano allineate alle linee guida per i contenuti di Contoso Camping Store.
Sicurezza dei contenuti di Azure AI offre una suite di funzionalità progettate per monitorare e moderare il contenuto in tempo reale. Comprende:
Moderazione del testo: Rileva e filtra contenuti dannosi nel testo, ad esempio il linguaggio di odio, la violenza o il linguaggio inappropriato.
Moderazione delle immagini: Analizza le immagini per identificare e bloccare il contenuto che può essere considerato non sicuro o offensivo.
Analisi del contenuto plurimodale: Funziona in diversi tipi di contenuto, garantendo una strategia completa di sicurezza dei contenuti.
Rilevamento del radicamento: Rileva e blocca informazioni errate negli output del modello, assicurandosi che le risposte di testo di modelli linguistici di grandi dimensioni siano fondate e accurate, in base ai materiali di origine forniti.
Protezioni delle richieste: Analizza gli input LLM (Large Language Model) e rileva gli attacchi alle richieste utente e gli attacchi ai documenti.
Rilevamento di materiale protetto: Identifica e blocca gli output che potrebbero potenzialmente violare il copyright analizzando le corrispondenze rispetto a un indice di contenuto di testo di terze parti, inclusi brani, articoli di notizie, ricette e contenuti Web selezionati.
Queste funzionalità sono basate su modelli di intelligenza artificiale all'avanguardia che possono rilevare un'ampia gamma di potenziali rischi, minacce e problemi di qualità. L'identificazione di questi problemi consente di garantire un ambiente sicuro e inclusivo per tutti gli utenti del sito Web Contoso Camping Store.