Resumo
A proliferação de conteúdos gerados pelos utilizadores torna quase impossível aos moderadores humanos gerirem eficazmente as plataformas em linha. No entanto, à medida que a quantidade de conteúdo gerado pelo utilizador aumenta, aumenta também a importância da segurança em linha.
A Segurança de Conteúdo da IA do Azure usa modelos de IA para detetar automaticamente linguagem violenta, sexual, de automutilação ou de ódio em tempo real. Ele atribui um nível de gravidade, para que os moderadores humanos possam se concentrar em casos de alta prioridade e serem expostos a uma quantidade menor de conteúdo perturbador. O Azure AI Content Safety inclui recursos para moderar material gerado por pessoas e por IA.
Neste módulo, você viu como os recursos do Azure AI Content Safety podem ajudar marcas de comércio eletrônico, empresas de jogos e educadores a fornecer espaços mais seguros para os usuários.