AI ワークロードのアラート (プレビュー)
この記事では、Microsoft Defender for Cloud から AI ワークロードに対して取得できるセキュリティ アラートと、有効にしたすべての Microsoft Defender プランの一覧を示します。 お使いの環境で示されるアラートは、保護対象のリソースとサービスおよびカスタマイズした構成によって異なります。
Note
Microsoft Defender 脅威インテリジェンスと Microsoft Defender for Endpoint を利用して最近追加されたアラートの一部は、文書化されていない可能性があります。
これらのアラートに対応する方法については、こちらを参照してください。
アラートをエクスポートする方法については、こちらを参照してください。
注意
アラートの出力元によって、表示されるまでの時間が変わる場合があります。 たとえば、ネットワーク トラフィックの分析を必要とするアラートは、仮想マシンで実行されている不審なプロセスに関連するアラートよりも、表示されるまでより長い時間がかかる可能性があります。
AI ワークロードアラート
Azure OpenAI モデルのデプロイで資格情報の盗難の試行が検出されました
(AI。Azure_CredentialTheftAttempt)
説明: 資格情報盗難アラートは、GenAI モデルの応答内で資格情報が検出されたときに SOC にユーザー プロンプトに通知するように設計されており、侵害の可能性を示します。 このアラートは、資格情報の漏洩や盗難のケースを検出するために重要です。これは生成 AI に固有であり、成功した場合に重大な結果を招く可能性があります。
MITRE の戦術: 資格情報アクセス、横移動、流出
重大度: 中
Azure OpenAI モデルのデプロイに対する脱獄の試行が、Azure AI コンテンツの安全性プロンプト シールドによってブロックされました
(AI。Azure_Jailbreak.ContentFiltering.BlockedAttempt)
説明: ダイレクト プロンプトインジェクション手法を使用して実行される脱獄アラートは、生成 AI のセーフガードをバイパスするためにシステム プロンプトを操作しようとしたことを SOC に通知し、機密データや特権関数にアクセスする可能性があることを通知するように設計されています。 このような試みが Azure Responsible AI Content Safety (AKA Prompt Shields) によってブロックされ、AI リソースの整合性とデータ セキュリティが確保されたことを示しました。
MITRE 戦術: 特権エスカレーション、防御回避
重大度: 中
Azure OpenAI モデルのデプロイに対する脱獄の試行が、Azure AI コンテンツの安全性プロンプト シールドによって検出されました
(AI。Azure_Jailbreak.ContentFiltering.DetectedAttempt)
説明: ダイレクト プロンプトインジェクション手法を使用して実行される脱獄アラートは、生成 AI のセーフガードをバイパスするためにシステム プロンプトを操作しようとしたことを SOC に通知し、機密データや特権関数にアクセスする可能性があることを通知するように設計されています。 このような試行は、Azure Responsible AI Content Safety (AKA Prompt Shields) によって検出されましたが、コンテンツ フィルタリングの設定や信頼性の低さによってブロックされなかったことが示されました。
MITRE 戦術: 特権エスカレーション、防御回避
重大度: 中
Azure OpenAI モデルのデプロイで機密データの公開が検出されました
(AI。Azure_DataLeakInModelResponse.Sensitive)
説明: 機密性の高いデータ漏洩アラートは、悪意のあるユーザーが未承認の機密データにアクセスするために生成 AI のセーフガードをバイパスしようとしたことが原因で、GenAI モデルが機密情報でユーザー プロンプトに応答したことを SOC に通知するように設計されています。
MITRE の戦術: コレクション
重大度: 中
破損した AI application\model\data が、ユーザーに対してフィッシング詐欺の試行を指示しました
(AI。Azure_PhishingContentInModelResponse)
説明: このアラートは、フィッシングに使用される既知の悪意のある URL をユーザーと積極的に共有しているため、組織が開発した AI アプリケーションの破損を示します。 アプリケーション自体、AI モデル、またはアプリケーションがアクセスできるデータ内で生成された URL。
MITRE の戦術: 影響 (改ざん)
重大度: 高
AI アプリケーションで共有されるフィッシング詐欺 URL
(AI。Azure_PhishingContentInAIApplication)
説明: このアラートは、AI アプリケーションの破損の可能性、またはエンド ユーザーの 1 人によるフィッシング詐欺の試行を示します。 このアラートは、フィッシングに使用される悪意のある URL が AI アプリケーションを介した会話中に渡されたと判断しますが、URL (ユーザーまたはアプリケーション) の起源は不明です。
MITRE 戦術: 影響 (汚名)、コレクション
重大度: 高
AI アプリケーションで検出されたフィッシング詐欺の試行
(AI。Azure_PhishingContentInUserPrompt)
説明: このアラートは、フィッシング攻撃に使用された URL がユーザーによって AI アプリケーションに送信されたことを示します。 通常、このコンテンツでは、訪問者が正規に見える Web サイトに自分の会社の資格情報または財務情報を入力するよう誘導します。 これを AI アプリケーションに送信することは、それを破損したり、アクセス権を持つデータ ソースを有害にしたり、アプリケーションのツールを使用して従業員やその他の顧客にアクセスしたりする目的で行われる場合があります。
MITRE の戦術: コレクション
重大度: 高
Note
プレビュー段階のアラートの場合: Azure プレビューの追加使用条件には、ベータ版、プレビュー版、またはその他のまだ一般提供されていない Azure 機能に適用される追加の法律条項が含まれています。