Segurança de conteúdo
O Azure AI Content Safety deteta conteúdo prejudicial gerado pelo utilizador e gerado por IA em aplicações e serviços. Os recursos do Azure AI Content Safety podem ajudar a garantir que as avaliações de produtos, postagens em fóruns e imagens estejam alinhadas com as diretrizes de conteúdo da Contoso Camping Store.
A segurança de conteúdo da IA do Azure oferece um conjunto de recursos projetados para monitorar e moderar conteúdo em tempo real. Inclui:
Moderação de texto: deteta e filtra conteúdo nocivo no texto, como discurso de ódio, violência ou linguagem inadequada.
Moderação de imagem: analisa imagens para identificar e bloquear conteúdo que possa ser considerado inseguro ou ofensivo.
Análise de conteúdo multimodal: funciona em diferentes tipos de conteúdo, garantindo uma estratégia abrangente de segurança de conteúdo.
Deteção deaterramento: Deteta e bloqueia informações incorretas nas saídas do modelo, garantindo que as respostas de texto de modelos de linguagem grandes sejam factuais e precisas, com base nos materiais de origem fornecidos.
Prompt Shields: Analisa entradas de Large Language Model (LLM) e deteta ataques de prompt do usuário e ataques de documentos.
Deteção de material protegido: identifica e bloqueia saídas que podem potencialmente violar direitos autorais verificando correspondências com um índice de conteúdo de texto de terceiros, incluindo músicas, artigos de notícias, receitas e conteúdo da Web selecionado.
Esses recursos são construídos em modelos de IA de ponta que podem detetar uma ampla gama de riscos potenciais, ameaças e problemas de qualidade. A identificação desses problemas ajuda a garantir um ambiente seguro e inclusivo para todos os usuários do site da Loja de Campismo da Contoso.