O que é Segurança de Conteúdo
O Azure AI Content Safety é um conjunto de recursos avançados de moderação de conteúdo que podem ser incorporados em seus aplicativos e serviços. O Azure AI Content Safety está disponível como um recurso no portal do Azure.
A proteção dos conteúdos em linha é necessária num número crescente de situações. Não só estamos preocupados em moderar o conteúdo gerado pelas pessoas, mas também devemos nos proteger contra o uso mal-intencionado da IA.
Confiar no conteúdo gerado pelo utilizador
A interação social faz cada vez mais parte de muitos espaços digitais. Os conteúdos genuínos gerados pelos utilizadores são considerados independentes e fiáveis e utilizados em paralelo com a publicidade e o marketing. Diferentes indústrias estão incentivando seus clientes a se conectarem uns com os outros e com sua marca.
Os conteúdos nocivos têm muitos efeitos negativos. Prejudica marcas fidedignas, desencoraja os utilizadores de participarem em fóruns online e pode ter um impacto devastador nos indivíduos.
O Azure AI Content Safety foi projetado para ser usado em aplicativos e serviços para proteger contra conteúdo prejudicial gerado pelo usuário e gerado por IA.
Segurança de conteúdo no Azure AI Foundry
A Segurança de Conteúdo do Azure AI está disponível como parte do Azure AI Foundry, uma plataforma unificada que permite explorar muitos serviços diferentes de IA do Azure, incluindo a Segurança de Conteúdo.
Na home page do Azure AI Foundry, role para baixo e selecione Explorar Serviços de IA do Azure. A partir daqui, você pode explorar a Segurança de Conteúdo selecionando Exibir todos os recursos de Segurança de Conteúdo.
O Azure AI Content Safety Studio permite que você explore e teste os recursos de Segurança de Conteúdo por conta própria. Selecione a funcionalidade que pretende experimentar e, em seguida, selecione Experimentar. Em seguida, você pode usar a interface do usuário para testar amostras ou seu próprio material. Selecione View code para gerar código de exemplo em C#, Java ou Python. Em seguida, você pode copiar e colar o código de exemplo e alterar as variáveis para usar seus próprios dados.
Nota
Pode aceder ao Azure AI Content Studio através do Azure AI Foundry ou através do Content Safety Studio.
Para obter práticas guiadas usando o Azure AI Content Studio, consulte Moderar conteúdo e detetar danos com o Azure AI Content Safety Studio.