你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
获取 AI 警报的应用程序和最终用户上下文
通过 Microsoft Defender for Cloud 针对 AI 工作负载的威胁防护,可通过提供最终用户和应用程序上下文来增强生成的 AI 警报的可操作性和安全性价值。
在大多数情况下,利用 AI 服务的应用程序和场景是作为应用程序的一部分构建的,因此对 AI 服务的 API 调用源自 Web 应用程序、计算实例或 AI 网关。 由于在调查 AI 请求以确定所涉及的商业应用程序或最终用户时缺乏上下文,这种体系结构设置带来了复杂性。
Defender for Cloud 与 Azure AI 结合使用,可在 Azure AI API 调用中添加参数,从而将关键最终用户或应用程序上下文传播到 Defender for Cloud 的 AI 警报中。 这进而能实现更有效的会审和结果产出。 例如,添加最终用户 IP 或标识后,你可以阻止该用户,或按该用户对事件和警报进行关联。 添加应用程序上下文后,你可以确定优先级,或者判断可疑行为对于组织内的该应用程序而言是否可视为正常行为。
先决条件
请阅读概述 - AI 威胁防护。
在 AI 应用程序上启用对 AI 工作负载的威胁防护(预览版)(使用 Azure OpenAI 基础模型,直接通过 Azure Open AI 服务)。 请注意,当利用通过 Azure AI 模型推理 API 部署的模型时,当前不支持此功能。
将安全参数添加到 Azure OpenAI 调用
若要接收具有更多上下文的 AI 安全警报,可将以下任何或所有示例 SecurityContext
参数添加到 Azure OpenAI API 调用。
SecurityContext
中的所有字段都是可选字段。
对于最终用户上下文,建议至少传递 EndUserId
和 SourceIP
字段。
EndUserId
和 SourceIP
字段为安全运营中心 (SOC) 分析师提供了调查涉及 AI 资源和生成式 AI 应用程序的安全事件的能力。
对于应用程序上下文,只需将 applicationName
字段作为简单字符串传递。
如果字段的名称拼写错误,Azure OpenAI API 调用仍将成功。
SecurityContext
架构不要求验证即可通过 Azure OpenAI 用户字段传递。 应用程序开发人员应确保在应用程序向 Azure OpenAI 发出的每个请求中,将有效的 JSON 传递到 user
字段。
SecurityContext 架构
确切的架构可在 Azure OpenAI REST API 参考文档中找到。
当利用通过 Azure AI 模型推理 API 部署的模型时,当前不支持此功能。