Microsoft AI Red Team

Lär dig att skydda din organisations AI med vägledning och bästa praxis från branschledande Microsoft AI Red Team.

Om AI Red Team

Översikt

• Vad är AI Red-teamindelning och hur Microsoft skapar säkrare AI?

Instruktioner

• Guide för att skapa AI Red Teams för LLM:er

Referens

• Ansvarsfulla AI-verktyg och -metoder
• Ansvarsfull AI-standard och konsekvensanalys

Komma igång

Översikt

• Microsofts Open Automation Framework to Red Team Generative AI Systems (PyRIT)

Instruktioner

• Guide för PyRIT

Referens

• AI-riskbedömning för ML-tekniker
• AI-modell för delat ansvar

Förstå hot

Instruktioner

• Vägledning för hotmodellering för utvecklare för ML-system

Koncept

• Taxonomi för maskininlärningsfel

Referens

• Felfält för att sortera attacker på ML-system

Utforska säkra lösningar

Koncept

• Metodik för säkerhetsanpassning av Phi-3-serien med språkmodeller

Referens

• Företagssäkerhet och styrning för Azure Machine Learning
• Vad är Azure AI Content Safety?
• Skadereduceringsstrategier med Azure AI
• Övervaka kvalitet och säkerhet för distribuerade promptflödesprogram