AI 工作負載的警示 （預覽）
本文列出您可能從 適用於雲端的 Microsoft Defender 取得 AI 工作負載的安全性警示，以及您啟用的任何Microsoft Defender 方案。 您環境中顯示的警示取決於您要保護的資源和服務，以及您的自定義組態。
注意
Microsoft Defender 威脅情報 和 適用於端點的 Microsoft Defender 提供電源的一些最近新增的警示可能未記載。
注意
來自不同來源的警示可能需要不同時間才會出現。 例如，需要分析網路流量的警示，可能會比與虛擬機上執行的可疑進程相關的警示出現的時間更長。
AI 工作負載警示
偵測到 Azure AI 模型部署上的認證竊取嘗試
（AI.Azure_CredentialTheftAttempt）
描述：認證竊取警示的設計目的是在 GenAI 模型內偵測到認證回應使用者提示時通知 SOC，指出潛在的缺口。 此警示對於偵測認證外洩或竊取案例至關重要，這對產生 AI 而言是獨一無二的，如果成功，可能會產生嚴重後果。
MITRE 策略：認證存取、橫向移動、外泄
嚴重性：中
Azure AI 內容安全提示盾已封鎖 Azure AI 模型部署的越獄嘗試
（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）
描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。 它指出，Azure 負責任 AI 內容安全（也稱為提示盾牌）會封鎖這類嘗試，以確保 AI 資源和數據安全性的完整性。
MITRE 策略：許可權提升、防禦逃避
嚴重性：中
Azure AI 內容安全提示盾偵測到 Azure AI 模型部署的越獄嘗試
（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）
描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。 它指出，Azure 負責任 AI 內容安全（也稱為提示盾牌）偵測到這類嘗試，但由於內容篩選設定或信賴度低而未封鎖。
MITRE 策略：許可權提升、防禦逃避
嚴重性：中
在 Azure AI 模型部署中偵測到的敏感數據暴露
（AI.Azure_DataLeakInModelResponse.Sensitive）
描述：敏感數據外洩警示的設計目的是通知 SOC，GenAI 模型會回應具有敏感性資訊的使用者提示，這可能是因為惡意使用者嘗試略過產生 AI 保護來存取未經授權的敏感數據。
MITRE 策略：集合
嚴重性：低
損毀的 AI 應用程式\模型\資料會針對使用者發起網絡釣魚嘗試
（AI.Azure_PhishingContentInModelResponse）
描述：此警示表示組織所開發的 AI 應用程式損毀，因為它已主動與使用者共用用於網路釣魚的已知惡意 URL。 URL 源自應用程式本身、AI 模型或應用程式可存取的數據。
MITRE 策略：影響（污點）
嚴重性：高
AI 應用程式中共用的網路釣魚 URL
（AI.Azure_PhishingContentInAIApplication）
描述：此警示表示 AI 應用程式的潛在損毀，或其中一位使用者嘗試網路釣魚。 警示會判斷用於網路釣魚的惡意 URL 是在透過 AI 應用程式進行交談期間傳遞的，不過 URL（使用者或應用程式）的來源尚不清楚。
MITRE 策略：影響（污損），收藏
嚴重性：高
AI 應用程式中偵測到的網路釣魚嘗試
（AI.Azure_PhishingContentInUserPrompt）
描述：此警示指出使用者已將用於網路釣魚攻擊的URL傳送至 AI 應用程式。 內容通常會吸引訪客進入其公司認證或財務資訊進入合法外觀的網站。 若要將此專案傳送至 AI 應用程式，可能是為了損毀、毒害其可存取的數據源，或透過應用程式的工具取得員工或其他客戶的存取權。
MITRE 策略：集合
嚴重性：高
偵測到可疑的使用者代理程式
（AI.Azure_AccessFromSuspiciousUserAgent）
描述：存取其中一個 Azure AI 資源之要求的使用者代理程式包含異常值，表示嘗試濫用或操作資源。 可疑的使用者代理程式已由Microsoft威脅情報對應為可疑惡意意圖，因此您的資源可能會遭到入侵。
MITRE 策略：執行、偵察、初始存取
嚴重性：中
ASCII 走私提示插入偵測到
（AI.Azure_ASCIISmuggling）
描述：ASCII 走私技術可讓攻擊者將不可見的指示傳送給 AI 模型。 這些攻擊通常歸因於間接提示插入，其中惡意威脅執行者會傳遞隱藏指示以略過應用程式和模型護欄。 這些攻擊通常會在沒有使用者知識的情況下套用，因為他們在文字中缺乏可見度，而且可能會危害應用程式工具或連線的數據集。
MITRE 策略：影響
嚴重性：高
從 Tor IP 存取
（AI.Azure_AccessFromAnonymizedIP）
描述：來自 Tor 網路的 IP 位址存取其中一個 AI 資源。 Tor 是一種網路，可讓使用者存取因特網，同時隱藏其真正的 IP。 雖然有合法的用途，但攻擊者在在線鎖定人員系統時，經常會使用來隱藏其身分識別。
MITRE 策略：執行
嚴重性：高
注意
針對處於預覽狀態的警示： Azure 預覽補充條款 包含適用於 Beta 版、預覽版或尚未發行至正式運作之 Azure 功能的其他法律條款。