Moderar conteúdo e detectar danos com o Estúdio de IA do Azure
Saiba como escolher e criar um sistema de moderação de conteúdo no Estúdio de IA do Azure.
Observação
Este módulo é um módulo de projeto guiado no qual você conclui um projeto de ponta a ponta seguindo instruções passo a passo.
Objetivos de aprendizagem
Ao final deste módulo, você será capaz de fazer o seguinte:
- Configurar filtros e níveis de limite para bloquear conteúdo prejudicial.
- Executar a moderação de texto e imagem para conteúdo prejudicial.
- Analisar e melhorar as métricas de Precisão, Recall e Pontuação de F1.
- Detectar fundamentação na saída de um modelo.
- Identificar e bloquear o conteúdo com direitos autorais gerado por IA.
- Mitigar injeções de prompt diretas e indiretas.
- Configurações de filtro de saída para código.
Pré-requisitos
- Uma assinatura do Azure – crie uma gratuitamente
- Familiaridade com o Azure e o portal do Azure