Introdução
A quantidade de conteúdo gerado pelo usuário que está sendo postado online está crescendo rapidamente. Também estamos cada vez mais conscientes da necessidade de proteger todas as pessoas contra conteúdo inadequado ou prejudicial.
A Segurança de Conteúdo de IA do Azure é um serviço de IA projetado para ajudar os desenvolvedores a incluir segurança avançada de conteúdo em seus aplicativos e serviços.
Os desafios na manutenção de espaços online seguros e respeitosos estão crescendo para as equipes de desenvolvedores responsáveis por hospedar discussões online. A Segurança de Conteúdo de IA do Azure identifica conteúdo potencialmente não seguro e ajuda as organizações a cumprir as normas e atender aos seus próprios padrões de qualidade.
A necessidade de melhorar a segurança do conteúdo online tem quatro principais impulsionadores:
- Aumento de conteúdo nocivo: Houve um grande crescimento no conteúdo online gerado pelo usuário, incluindo conteúdo nocivo e inadequado.
- Pressões regulatórias: Pressão do governo para regular o conteúdo online.
- Transparência: Os usuários precisam de transparência nos padrões de moderação de conteúdo e imposição.
- Conteúdo complexo: Os avanços na tecnologia estão facilitando a postagem de conteúdo e vídeos multimodal para os usuários.
Observação
A Segurança de Conteúdo de IA do Azure substitui o Content Moderator do Azure, que foi preterido em fevereiro de 2024 e será desativado até fevereiro de 2027.
Neste módulo, você aprenderá sobre os principais recursos da Segurança de Conteúdo de IA do Azure e quando cada um pode ser usado.