你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
概述 - AI 安全态势管理
对于企业构建的多云或混合云（当前为 Azure 和 AWS）生成式 AI 应用程序，Microsoft Defender for Cloud 中的 Defender 云安全态势管理 (CSPM) 计划可在应用程序的整个生命周期内提供安全保护。 Defender for Cloud 通过以下方式降低各种云 AI 工作负载中的风险：
- 发现生成式 AI 物料清单 (AI BOM)，这包括从代码到云的应用程序组件、数据和 AI 项目。
- 通过内置建议以及探查并修正安全风险，改进生成式 AI 应用程序的安全态势。
- 使用攻击路径分析来识别并修正风险。
重要
如果要在符合以下情况的 AWS 帐户上启用 AI 安全态势管理功能：
- 已连接到 Azure 帐户。
- 已启用 Defender CSPM。
- 将权限类型设置为最低特权访问。
必须使用以下步骤重新配置对该连接器的权限才能启用相关权限：
- 在 Azure 门户中导航到“环境设置”页，并选择相应的 AWS 连接器。
- 选择“配置访问权限”。
- 确保将权限类型设置为“最低特权访问”。
- 执行步骤 5 - 8 以完成配置。
发现生成式 AI 应用
Defender for Cloud 可发现 AI 工作负载，并识别你的组织的 AI BOM 的详细信息。 这种可见性使你能够识别和解决漏洞，并保护生成式 AI 应用程序免受潜在威胁。
Defenders for Cloud 可以自动并持续发现以下服务中已部署的 AI 工作负载：
- Azure OpenAI 服务
- Azure 机器学习
- Amazon Bedrock
Defender for Cloud 还可以通过扫描源代码来查找基础结构即代码 (IaC) 配置错误和容器映像中的漏洞，从而发现生成式 AI 库依赖项（例如 TensorFlow、PyTorch 和 Langchain）中的漏洞。 定期更新或修补库可以防止漏洞利用，保护生成式 AI 应用程序并维护其完整性。
借助这些功能，从代码到云，Defender for Cloud 可提供 AI 工作负载的完整可见性。
降低生成式 AI 应用的风险
Defender CSPM 针对组织的 AI 安全态势提供情境式见解。 你可以使用安全建议和攻击路径分析来降低 AI 工作负载中的风险。
使用建议来探索风险
Defender for Cloud 可以评估 AI 工作负载。 它还在标识、数据安全和互联网暴露方面提出建议，以识别关键安全问题并确定其优先级。
检测 IaC 配置错误
DevOps 安全性会检测 IaC 配置错误，配置错误可能会使生成式 AI 应用程序暴露于安全漏洞中，例如过度暴露的访问控制或意外公开的服务。 这些配置错误可能会导致数据泄露、未经授权的访问以及合规性问题，尤其是在处理严格的数据隐私法规时。
Defender for Cloud 会评估生成式 AI 应用配置，并提供安全建议来改进 AI 安全态势。
为了防止以后出现更复杂的问题，请在开发周期的早期修正已检测到的配置错误。
当前的 IaC AI 安全检查包括：
- 使用 Azure AI 服务专用终结点
- 限制 Azure AI 服务终结点
- 对 Azure AI 服务帐户使用托管标识
- 对 Azure AI 服务帐户使用基于标识的身份验证
通过攻击路径分析探索风险
攻击路径分析检测并缓解 AI 工作负载的风险。 将 AI 模型与特定数据对接，以及在特定数据集上对预训练模型进行微调，以提高其在相关任务中的性能，这些都是可能暴露数据的阶段。
通过持续监视 AI 工作负载，攻击路径分析可以识别弱点和潜在漏洞，并进一步提出建议。 此外，它还扩展到数据和计算资源分布在 Azure、AWS 和 GCP 中的情况。