Introduzione

  • 2 minuti

Contoso Camping Store sta sviluppando nuove funzionalità basate sull'intelligenza artificiale per il loro sito Web per migliorare l'interazione e la sicurezza degli utenti. Gli sviluppatori hanno l'incarico di integrare le funzionalità di Sicurezza dei contenuti di Azure AI nella piattaforma dello store. L'obiettivo è garantire che tutte le conversazioni di supporto clienti e i contenuti generati dall'utente, ad esempio le recensioni e le immagini dei prodotti, rispettino le linee guida sui contenuti aziendali, promuovendo un ambiente sicuro e inclusivo per tutti gli utenti. A fini di test, si sceglie di usare le funzionalità di moderazione e sicurezza all'interno dello Studio AI della piattaforma Azure.

Obiettivi di apprendimento

Completando questo modulo, si è in grado di:

  • Configurare filtri e livelli di soglia per bloccare contenuti dannosi.
  • Eseguire la moderazione del testo e delle immagini per contenuti dannosi.
  • Analizzare e migliorare le metriche Precisione, Richiamo e Punteggio F1.
  • Rilevare il radicamento nell'output di un modello.
  • Ridurre l'inserimento di richieste dirette e indirette.
  • Scrivere l'output delle configurazioni del filtro nel codice.

Prerequisiti