你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
AI 安全态势管理
Microsoft Defender for Cloud 中的 Defender 云安全态势管理 (CSPM) 计划提供 AI 安全态势管理功能，这些功能可在整个应用程序生命周期内保护由企业构建的、多云或混合云（当前为 Azure 和 AWS）生成式 AI 应用程序。 Defender for Cloud 通过以下方式降低各种云 AI 工作负载中的风险：
- 发现生成式 AI 材料清单 (AI BOM)，这包括从代码到云的应用程序组件、数据和 AI 项目。
- 通过内置建议以及探查并修正安全风险，改进生成式 AI 应用程序的安全态势。
- 使用攻击路径分析来识别并修正风险。
重要
要在符合以下情况的 AWS 帐户上启用 AI 安全状况管理功能：
- 已连接到 Azure 帐户。
- 已启用 Defender CSPM。
- 将权限类型设置为最低特权访问。
必须使用以下步骤重新配置对该连接器的权限才能启用相关权限：
- 在 Azure 门户中导航到“环境设置”页，并选择相应的 AWS 连接器。
- 选择“配置访问权限”。
- 确保将权限类型设置为“最低特权访问”。
- 执行步骤 5 - 8 以完成配置。
发现生成式 AI 应用
Defender for Cloud 可发现 AI 工作负载，并识别你的组织的 AI BOM 的详细信息。 这种可见性使你能够识别和解决漏洞，并保护生成式 AI 应用程序免受潜在威胁。
Defenders for Cloud 可以自动并持续发现以下服务中已部署的 AI 工作负载：
- Azure OpenAI 服务
- Azure 机器学习
- Amazon Bedrock
Defender for Cloud 还可以通过扫描源代码来查找基础结构即代码 (IaC) 配置错误和容器映像中的漏洞，从而发现生成式 AI 库依赖项（例如 TensorFlow、PyTorch 和 Langchain）中的漏洞。 定期更新或修补库可以防止漏洞利用，保护生成式 AI 应用程序并维护其完整性。
借助这些功能，从代码到云，Defender for Cloud 可提供 AI 工作负载的完整可见性。
降低生成式 AI 应用的风险
Defender CSPM 针对组织的 AI 安全态势提供情境式见解。 你可以使用安全建议和攻击路径分析来降低 AI 工作负载中的风险。
使用建议来探索风险
Defender for Cloud 评估 AI 工作负载，并围绕标识、数据安全和互联网暴露提出建议，以识别 AI 工作负载中的关键安全问题并确定其优先级。
检测 IaC 配置错误
DevOps 安全性会检测 IaC 配置错误，配置错误可能会使生成式 AI 应用程序暴露于安全漏洞中，例如过度暴露的访问控制或意外公开的服务。 这些配置错误可能会导致数据泄露、未经授权的访问以及合规性问题，尤其是在处理严格的数据隐私法规时。
Defender for Cloud 会评估生成式 AI 应用配置，并提供安全建议来改进 AI 安全态势。
应在开发周期的早期修正检测到的配置错误，以防止以后出现更复杂的问题。
当前的 IaC AI 安全检查包括：
- 使用 Azure AI 服务专用终结点
- 限制 Azure AI 服务终结点
- 对 Azure AI 服务帐户使用托管标识
- 对 Azure AI 服务帐户使用基于标识的身份验证
通过攻击路径分析探索风险
攻击路径分析检测并缓解 AI 工作负载的风险，特别是在数据可能暴露的奠基阶段（将 AI 模型链接到特定数据）和优调阶段（调整特定数据集上的预训练模型以提高其在相关任务中的性能）。
通过持续监视 AI 工作负载，攻击路径分析可以识别弱点和潜在漏洞，并进一步提出建议。 此外，它还扩展到数据和计算资源分布在 Azure、AWS 和 GCP 中的情况。