Introdução

  • 2 minutos

A Contoso Camping Store está desenvolvendo novos recursos de IA para seu site para aprimorar a interação e a segurança do usuário. Como desenvolvedor, você tem a tarefa de integrar os recursos de Segurança de Conteúdo de IA do Azure à plataforma de armazenamento. Sua meta é garantir que todas as conversas de suporte ao cliente e o conteúdo gerado pelo usuário, como avaliações de produtos e imagens, sigam as diretrizes de conteúdo da empresa, promovendo um ambiente seguro e inclusivo para todos os usuários. Para fins de teste, você opta por usar os recursos de moderação e segurança no Estúdio de IA do Azure.

Objetivos do aprendizado

Ao concluir este módulo, você poderá:

  • Configurar filtros e níveis de limite para bloquear conteúdo prejudicial.
  • Executar a moderação de texto e imagem para conteúdo prejudicial.
  • Analisar e melhorar as métricas de Precisão, Recall e Pontuação de F1.
  • Detectar fundamentação na saída de um modelo.
  • Mitigar injeções de prompt diretas e indiretas.
  • Configurações de filtro de saída para código.

Pré-requisitos