Microsoft AI Red Team

了解如何通过行业领先的Microsoft AI Red Team 的指导和最佳做法来保护组织的 AI。

关于 AI Red Team

概述

• 什么是 AI Red Team 以及 Microsoft 如何构建更安全的 AI？

操作指南

• 构建适用于 LLM 的 AI Red Team 指南

参考

• 负责任的 AI 工具和做法
• 负责任的 AI 标准和影响评估

做好准备

概述

• Microsoft 开放自动化框架到 Red Team 生成 AI 系统 (PyRIT)

操作指南

• PyRIT 操作指南

参考

• 机器学习工程师的 AI 风险评估
• AI 共担责任模型

了解威胁

操作指南

• 机器学习系统的开发人员威胁建模指南

概念

• 机器学习失败的分类

参考

• Bug 栏，用于对机器学习系统进行会审攻击

探索安全解决方案

概念

• 符合 Phi-3 系列语言模型的安全方法

参考

• Azure 机器学习的企业安全性和治理
• 什么是 Azure AI 内容安全？
• 使用 Azure AI 的危害缓解策略
• 监视已部署提示流应用程序的质量和安全性

经验 教训

概述

• 来自红色组合 100 种生成 AI 产品的教训