Introducción

  • 2 minutos

Contoso Camping Store está desarrollando nuevas características con tecnología de IA para su sitio web que mejoran la interacción y la seguridad de los usuarios. Como desarrollador, tiene la tarea de integrar las características de seguridad de contenido de Azure AI en la plataforma de la tienda. El objetivo es asegurarse de que todas las conversaciones de soporte al cliente y el contenido generado por los usuarios (como las revisiones y las imágenes de productos) se adhieran a las directrices de contenido de la empresa, lo que promueve un entorno seguro e inclusivo para todos los usuarios. Con fines de prueba, decide usar las características de moderación y seguridad en Estudio de IA de Azure.

Objetivos de aprendizaje

Al completar este módulo, podrá:

  • Configure filtros y niveles de umbral para bloquear el contenido dañino.
  • Realice la moderación de texto e imagen para contenido dañino.
  • Analice y mejore las métricas de precisión, recuperación y puntuación F1.
  • Detecte la fundamentación en una salida del modelo.
  • Mitigue las inyecciones directas e indirectas de mensajes.
  • Establezca la salida de las configuraciones de filtro en el código.

Requisitos previos