次の方法で共有

AI アラートのアプリケーションとエンドユーザーのコンテキストを取得する

  • [アーティクル]

Microsoft Defender for Cloud の AI ワークロードへの脅威に対する保護を使用すると、エンドユーザーとアプリケーションの両方のコンテキストを提供して、生成された AI アラートの実用性とセキュリティの価値を高めることができます。

ほとんどの場合、AI サービスを利用するシナリオはアプリケーションの一部として構築されるため、AI サービスへの API 呼び出しは、Web アプリケーション、コンピューティング インスタンス、または AI ゲートウェイから行われます。 このアーキテクチャのセットアップでは、ビジネス アプリケーションまたは関係するエンド ユーザーを判別するための AI 要求を調査する際にコンテキストがないため、複雑さが生じます。

Defender for Cloud と Azure AI を組み合わせると、Azure AI API 呼び出しにパラメーターを追加して、重要なエンドユーザーまたはアプリケーションのコンテキストを Defender for Cloud の AI アラートに伝達できます。 これにより、より効果的なトリアージと結果が得られます。 たとえば、エンドユーザーの IP または ID を追加するときに、そのユーザーをブロックしたり、そのユーザーによるインシデントとアラートを関連付けたりすることができます。 アプリケーション コンテキストを追加するときに、優先順位を付けたり、疑わしい動作を組織内のそのアプリケーションの標準と見なすことができるかどうかを判別したりすることができます。

コードを追加することで得られる追加の利点をすべて示す Defender XDR ポータルのスクリーンショット。

前提条件

Azure OpenAI 呼び出しにセキュリティ パラメーターを追加する

より多くのコンテキストで AI セキュリティ アラートを受信するには、次のサンプル UserSecurityContext パラメーターの一部またはすべてを、Azure OpenAI API 呼び出しに追加します。

UserSecurityContext 内のフィールドはすべてオプションです。

エンドユーザー コンテキストの場合、少なくとも EndUserId フィールドと SourceIP フィールドを渡すことをお勧めします。 EndUserId と SourceIP フィールドにより、Security Operations Center (SOC) アナリストが、AI リソースと生成 AI アプリケーションを含むセキュリティ インシデントを調査できるようになります。

アプリケーション コンテキストの場合は、単純な文字列として applicationName フィールドを渡すだけです。

フィールド名のスペルが間違っていても、Azure OpenAI API 呼び出しは成功します。 UserSecurityContext スキーマでは、Azure OpenAI ユーザー フィールドをパススルーするための検証が不要です。 アプリケーション開発者は、アプリケーションが Azure OpenAI に対して行うすべての要求で、有効な JSON が確実に渡されるようにする必要があります。

UserSecurityContext スキーマ

正確なスキーマは、Azure OpenAI の REST API リファレンス ドキュメントにあります。

ユーザー セキュリティ コンテキスト オブジェクトは、チャット入力候補 API の要求本文の一部です。

現在、この機能は、Azure AI モデル推論 API を介してデプロイされたモデルを利用する場合はサポートされていません。

可用性

ソース バージョンのサポート 説明
Azure OpenAI REST API 2025-01-01 version -
Azure .NET SDK v2.2.0-beta.1 (2025-02-07) 以降 -
Python 用 Azure SDK v1.61.1 以降 サポートは、"extra_body" オブジェクトに追加すると提供されます
Azure JS/Node SDK v4.83.0 以降 サポートは、"extra_body" オブジェクトに追加すると提供されます
Azure Go SDK v0.7.2 以降 -

次のステップ

概要 - AI への脅威に対する保護