Introducción

Completado

La cantidad de contenido generado por el usuario que se publica en línea está creciendo rápidamente. También somos cada vez más conscientes de la necesidad de proteger a todos los usuarios de contenido inapropiado o perjudicial.

Seguridad del contenido de Azure AI es un servicio de IA diseñado para ayudar a los desarrolladores a incluir seguridad avanzada del contenido en sus aplicaciones y servicios.

Los retos a la hora de mantener espacios en línea seguros y respetuosos son cada vez mayores para los equipos de desarrolladores responsables de hospedar debates en línea. Seguridad del contenido de Azure AI identifica el contenido potencialmente peligroso y ayuda a las organizaciones a cumplir las normativas y a satisfacer sus propios estándares de calidad.

La necesidad de mejorar la seguridad de los contenidos en línea tiene cuatro factores principales:

  • Aumento de contenido dañino: Ha habido un gran crecimiento en el contenido en línea generado por el usuario, incluido contenido dañino e inapropiado.
  • Presiones normativas: Presión gubernamental para regular el contenido en línea.
  • Transparencia: Los usuarios necesitan transparencia en los estándares de moderación de contenido y la aplicación.
  • Contenido complejo: Los avances en la tecnología hacen que sea más fácil para los usuarios publicar contenido y vídeos multimodales.

Nota:

Seguridad del contenido de Azure AI sustituye a Azure Content Moderator, que quedó en desuso en febrero de 2024 y se retirará en febrero de 2027.

En este módulo, obtendrá información sobre las características clave de Seguridad del contenido de Azure AI y cuándo podría usarse cada una de ellas.