Introducción
La cantidad de contenido generado por el usuario que se publica en línea está creciendo rápidamente. También somos cada vez más conscientes de la necesidad de proteger a todos los usuarios de contenido inapropiado o perjudicial.
Seguridad del contenido de Azure AI es un servicio de IA diseñado para ayudar a los desarrolladores a incluir seguridad avanzada del contenido en sus aplicaciones y servicios.
Los retos a la hora de mantener espacios en línea seguros y respetuosos son cada vez mayores para los equipos de desarrolladores responsables de hospedar debates en línea. Seguridad del contenido de Azure AI identifica el contenido potencialmente peligroso y ayuda a las organizaciones a cumplir las normativas y a satisfacer sus propios estándares de calidad.
La necesidad de mejorar la seguridad de los contenidos en línea tiene cuatro factores principales:
- Aumento de contenido dañino: Ha habido un gran crecimiento en el contenido en línea generado por el usuario, incluido contenido dañino e inapropiado.
- Presiones normativas: Presión gubernamental para regular el contenido en línea.
- Transparencia: Los usuarios necesitan transparencia en los estándares de moderación de contenido y la aplicación.
- Contenido complejo: Los avances en la tecnología hacen que sea más fácil para los usuarios publicar contenido y vídeos multimodales.
Nota:
Seguridad del contenido de Azure AI sustituye a Azure Content Moderator, que quedó en desuso en febrero de 2024 y se retirará en febrero de 2027.
En este módulo, obtendrá información sobre las características clave de Seguridad del contenido de Azure AI y cuándo podría usarse cada una de ellas.