你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

探索部署前生成式 AI 项目的风险

Microsoft Defender for Cloud 中的 Defender 云安全态势管理 (CSPM) 计划通过识别 AI 项目(例如容器映像和代码存储库)中存在的生成式 AI 库中的漏洞,帮助你改进生成式 AI 应用的安全态势。 本文介绍了如何探索、识别这些应用程序的安全风险。

先决条件

识别在易受攻击的生成式 AI 容器映像上运行的容器

可以使用云安全资源管理器来识别正在运行的生成式 AI 容器映像中存在已知漏洞的容器。

  1. 登录 Azure 门户

  2. 搜索并选择“Microsoft Defender for Cloud”>“云安全资源管理器”。

  3. 选择“运行的容器映像中存在已知生成式 AI 漏洞的容器”查询模板。

    屏幕截图显示了在何处查找生成式 AI 易受攻击容器映像查询。

  4. 选择搜索

  5. 选择结果以查看其详细信息。

    屏幕截图显示了易受攻击的映像查询的结果示例。

  6. 选择一个节点以查看结果。

    屏幕截图显示了所选容器节点的详细信息。

  7. 在“见解”部分中,从下拉菜单中选择一个 CVE ID。

  8. 选择“打开漏洞页”。

  9. 修正建议

识别易受攻击的生成式 AI 代码存储库

可以使用云安全资源管理器来识别预配了 Azure OpenAI 的易受攻击的生成式 AI 代码存储库。

  1. 登录 Azure 门户

  2. 搜索并选择“Microsoft Defender for Cloud”>“云安全资源管理器”。

  3. 选择“预配了 Azure OpenAI 的生成式 AI 易受攻击代码存储库”查询模板。

    屏幕截图显示了在何处查找生成式 AI 易受攻击代码存储库查询。

  4. 选择搜索

  5. 选择结果以查看其详细信息。

    屏幕截图显示了易受攻击的代码查询的结果示例。

  6. 选择一个节点以查看结果。

    屏幕截图显示了所选易受攻击代码节点的详细信息。

  7. 在“见解”部分中,从下拉菜单中选择一个 CVE ID。

  8. 选择“打开漏洞页”。

  9. 修正建议