Microsoft AI Red Team

Informazioni su come proteggere l'intelligenza artificiale dell'organizzazione con linee guida e procedure consigliate del settore microsoft ai Red Team leader del settore.

Informazioni sul red team di intelligenza artificiale

Panoramica

• Che cos'è il red teaming di intelligenza artificiale e come Microsoft sta creando un'intelligenza artificiale più sicura?

Guida pratica

• Guida per la creazione di Team rossi di intelligenza artificiale per IMS

Riferimento

• Strumenti e procedure di IA responsabili
• Valutazione responsabile dell'IA standard e dell'impatto

Preparazione

Panoramica

• Open Automation Framework to Red Team Generative AI Systems (PyRIT) di Microsoft

Guida pratica

• Guida alla procedura di PyRIT

Riferimento

• Valutazione dei rischi di intelligenza artificiale per i tecnici di Machine Learning
• Modello di responsabilità condivisa IA

Informazioni sulle minacce

Guida pratica

• Linee guida per la modellazione delle minacce per sviluppatori per i sistemi di Machine Learning

Concetto

• Tassonomia per errori di Machine Learning

Riferimento

• Barra dei bug per valutare gli attacchi nei sistemi di Machine Learning

Esplorazione di soluzioni sicure

Concetto

• Metodologia per l'allineamento alla sicurezza della serie Phi-3 di modelli linguistici

Riferimento

• Sicurezza e governance aziendale per Azure Machine Learning
• Che cos'è la Sicurezza dei contenuti di Azure AI?
• Strategie per la mitigazione dei danni con Azure per intelligenza artificiale
• Monitorare la qualità e la sicurezza delle applicazioni del prompt flow distribuite

Lezioni apprese

Panoramica

• Lezioni dal red teaming di 100 prodotti generativi di intelligenza artificiale