Resumen
La proliferación de contenido generado por el usuario hace que sea casi imposible que los moderadores humanos administren eficazmente las plataformas en línea. Sin embargo, a medida que crece la cantidad de contenido generado por el usuario, crece también la importancia de la seguridad en línea.
La Seguridad del contenido de Azure AI usa modelos de IA para detectar automáticamente lenguaje violento, sexual, de autolesiones u odio en tiempo real. Asigna un nivel de gravedad, de modo que los moderadores humanos puedan centrarse en casos de alta prioridad y exponerse a una menor cantidad de contenido irrelevante. La Seguridad del contenido de Azure AI incluye características para moderar el material generado por personas y generado por IA.
En este módulo, ha visto cómo las características de Seguridad del contenido de Azure AI pueden ayudar a las marcas de comercio electrónico, las empresas de juegos y los educadores a proporcionar espacios más seguros para los usuarios.