Segurança do conteúdo
A Segurança de Conteúdo de IA do Azure detecta conteúdo prejudicial gerado pelo usuário e gerado por IA em aplicativos e serviços. Os recursos dentro do Segurança de Conteúdo de IA do Azure podem ajudar a garantir que avaliações de produtos, postagens em fóruns e imagens estejam de acordo com as diretrizes de conteúdo da Contoso Camping Store.
A Segurança de Conteúdo de IA do Azure oferece um conjunto de recursos projetados para monitorar e moderar conteúdo em tempo real. Ele inclui:
Moderação de texto: Detecta e filtra conteúdo prejudicial em textos, como discurso de ódio, violência ou linguagem inadequada.
Moderação de imagem: Analisa imagens para identificar e bloquear conteúdo que pode ser considerado não seguro ou ofensivo.
Análise de conteúdo multimodal: Funciona em diferentes tipos de conteúdo, garantindo uma estratégia de segurança de conteúdo abrangente.
Fundamentos Detecção: Detecta e bloqueia informações incorretas em saídas de modelo, garantindo que as respostas de texto de grandes modelos de linguagem sejam verdadeiras e precisas, com base nos materiais de origem fornecidos.
Proteções de prompt: Analisa entradas de LLM (grande modelo de linguagem) e detectar ataques de prompt de usuário e ataques de documento.
Detecção de material protegido: Identifica e bloqueia saídas que poderiam potencialmente violar direitos autorais verificando correspondências em relação a um índice de conteúdo de texto de terceiros, incluindo músicas, artigos de notícias, receitas e conteúdo da Web selecionado.
Esses recursos são baseados em modelos de IA de ponta que podem detectar uma ampla gama de possíveis riscos, ameaças e problemas de qualidade. Identificar esses problemas ajuda você a garantir um ambiente seguro e inclusivo para todos os usuários do site da Contoso Camping Store.