Equipo rojo de Microsoft AI

Aprenda a proteger la inteligencia artificial de su organización con instrucciones y procedimientos recomendados del equipo rojo de IA de Microsoft líder del sector.

Acerca del equipo rojo de IA

Información general

• ¿Qué es la formación de equipos rojos de IA y cómo está creando Microsoft una inteligencia artificial más segura?

Guía paso a paso

• Guía para crear equipos rojos de IA para LLM

Referencia

• Prácticas y herramientas de inteligencia artificial responsables
• Evaluación de impacto y estándar de inteligencia artificial responsable

Preparación

Información general

• Marco abierto de automatización de Microsoft para los sistemas de IA generativa de equipo rojo (PyRIT)

Guía paso a paso

• Guía de PyRIT

Referencia

• Evaluación de riesgos de IA para ingenieros de ML
• Modelo de responsabilidad compartida de IA

Descripción de las amenazas

Guía paso a paso

• Guía de modelado de amenazas para desarrolladores para sistemas de ML

Concepto

• Taxonomía para errores de aprendizaje automático

Referencia

• Barra de errores para evaluar los ataques en sistemas de ML

Exploración de soluciones seguras

Concepto

• Metodología para la seguridad de alineación de la serie Phi-3 de modelos de lenguaje

Referencia

• Seguridad de empresa y gobernanza para Azure Machine Learning
• ¿Qué es Seguridad del contenido de Azure AI?
• Estrategias de mitigación de daños con Azure AI
• Supervisión de la calidad y seguridad de las aplicaciones de flujo de avisos implementadas

Lecciones aprendidas

Información general

• Lecciones de productos de inteligencia artificial generativas de formación de equipos rojos 100