AI 워크로드에 대한 경고(미리 보기)
이 문서에서는 클라우드용 Microsoft Defender AI 워크로드에 대해 얻을 수 있는 보안 경고와 사용하도록 설정한 모든 Microsoft Defender 계획을 나열합니다. 사용자 환경에 표시되는 경고는 보호하는 리소스 및 서비스와 사용자 지정된 구성에 따라 다릅니다.
참고 항목
Microsoft Defender 위협 인텔리전스 및 엔드포인트용 Microsoft Defender 의해 구동되는 최근에 추가된 경고 중 일부는 문서화되지 않았을 수 있습니다.
참고 항목
다른 원본의 경고가 표시되려면 시간이 다를 수 있습니다. 예를 들어 네트워크 트래픽을 분석해야 하는 경고는 가상 머신에서 실행되는 의심스러운 프로세스와 관련된 경고보다 더 오래 걸릴 수 있습니다.
AI 워크로드 경고
Azure AI 모델 배포에서 자격 증명 도난 시도가 감지됨
(AI. Azure_CredentialTheftAttempt)
설명: 자격 증명 도난 경고는 사용자 프롬프트에 대한 GenAI 모델 응답 내에서 자격 증명이 검색되면 SOC에 알리도록 설계되어 잠재적 위반을 나타냅니다. 이 경고는 생성 AI에 고유하며 성공하면 심각한 결과를 초래할 수 있는 자격 증명 누출 또는 도난 사례를 감지하는 데 중요합니다.
MITRE 전술: 자격 증명 액세스, 횡적 이동, 반출
심각도: 보통
Azure AI 콘텐츠 안전 프롬프트 쉴드에 의해 Azure AI 모델 배포에 대한 탈옥 시도가 차단되었습니다.
(AI. Azure_Jailbreak.ContentFiltering.BlockedAttempt)
설명: 직접 프롬프트 주입 기술을 사용하여 수행되는 탈옥 경고는 SOC에 생성 AI의 안전 장치를 우회하여 중요한 데이터 또는 권한 있는 기능에 액세스할 수 있도록 시스템 프롬프트를 조작하려는 시도가 있음을 알리도록 설계되었습니다. 이러한 시도는 Azure 책임 있는 AI 콘텐츠 안전(프롬프트 쉴드라고도 함)에 의해 차단되어 AI 리소스의 무결성과 데이터 보안을 보장함을 나타냅니다.
MITRE 전술: 권한 상승, 방어 회피
심각도: 보통
Azure AI 콘텐츠 안전 프롬프트 쉴드에서 Azure AI 모델 배포에 대한 탈옥 시도가 감지되었습니다.
(AI. Azure_Jailbreak.ContentFiltering.DetectedAttempt)
설명: 직접 프롬프트 주입 기술을 사용하여 수행되는 탈옥 경고는 SOC에 생성 AI의 안전 장치를 우회하여 중요한 데이터 또는 권한 있는 기능에 액세스할 수 있도록 시스템 프롬프트를 조작하려는 시도가 있음을 알리도록 설계되었습니다. 이러한 시도는 Azure 책임 있는 AI 콘텐츠 안전(프롬프트 쉴드라고도 함)에 의해 검색되었지만 콘텐츠 필터링 설정 또는 낮은 신뢰도로 인해 차단되지 않았음을 나타냅니다.
MITRE 전술: 권한 상승, 방어 회피
심각도: 보통
Azure AI 모델 배포에서 감지된 중요한 데이터 노출
(AI. Azure_DataLeakInModelResponse.Sensitive)
설명: 중요한 데이터 유출 경고는 GENAI 모델이 중요한 정보로 사용자 프롬프트에 응답했음을 SOC에 알리기 위해 고안되었으며, 악의적인 사용자가 무단으로 중요한 데이터에 액세스하기 위해 생성 AI의 보호 장치를 우회하려고 시도했기 때문입니다.
MITRE 전술: 컬렉션
심각도: 낮음
손상된 AI application\model\data가 사용자에게 피싱 시도를 지시함
(AI. Azure_PhishingContentInModelResponse)
설명: 이 경고는 피싱에 사용되는 알려진 악성 URL을 사용자와 적극적으로 공유하므로 조직에서 개발한 AI 애플리케이션의 손상을 나타냅니다. URL은 애플리케이션 자체, AI 모델 또는 애플리케이션이 액세스할 수 있는 데이터 내에서 시작됩니다.
MITRE 전술: 영향(훼손)
심각도: 높음
AI 애플리케이션에서 공유되는 피싱 URL
(AI. Azure_PhishingContentInAIApplication)
설명: 이 경고는 AI 애플리케이션의 잠재적 손상 또는 최종 사용자 중 한 명이 피싱을 시도했음을 나타냅니다. 경고는 AI 애플리케이션을 통해 대화하는 동안 피싱에 사용되는 악성 URL이 전달되었음을 확인합니다. 그러나 URL(사용자 또는 애플리케이션)의 출처는 불분명합니다.
MITRE 전술: 영향(훼손), 컬렉션
심각도: 높음
AI 애플리케이션에서 피싱 시도가 감지됨
(AI. Azure_PhishingContentInUserPrompt)
설명: 이 경고는 사용자가 피싱 공격에 사용된 URL을 AI 애플리케이션에 전송했음을 나타냅니다. 해당 콘텐츠는 일반적으로 방문자가 회사 자격 증명이나 재무 정보를 합법적으로 보이는 웹 사이트에 입력하도록 유도합니다. 이를 AI 애플리케이션에 보내는 것은 애플리케이션을 손상하거나, 액세스 권한이 있는 데이터 원본을 중독하거나, 애플리케이션의 도구를 통해 직원 또는 다른 고객에 대한 액세스 권한을 얻기 위한 것일 수 있습니다.
MITRE 전술: 컬렉션
심각도: 높음
의심스러운 사용자 에이전트가 검색됨
(AI. Azure_AccessFromSuspiciousUserAgent)
설명: Azure AI 리소스 중 하나에 액세스하는 요청의 사용자 에이전트에 리소스를 남용하거나 조작하려는 시도를 나타내는 비정상적인 값이 포함되어 있습니다. 문제의 의심스러운 사용자 에이전트는 악의적인 의도로 의심되는 Microsoft 위협 인텔리전스에 의해 매핑되었으므로 리소스가 손상되었을 수 있습니다.
MITRE 전술: 실행, 정찰, 초기 액세스
심각도: 보통
ASCII 밀수 프롬프트 주입이 감지됨
(AI. Azure_ASCIISmuggling)
설명: ASCII 밀수 기술을 사용하면 공격자가 보이지 않는 지침을 AI 모델에 보낼 수 있습니다. 이러한 공격은 일반적으로 악의적인 위협 행위자가 애플리케이션 및 모델 가드레일을 우회하기 위해 숨겨진 지침을 전달하는 간접 프롬프트 주입에 기인합니다. 이러한 공격은 일반적으로 텍스트에 대한 가시성이 부족하여 사용자의 지식 없이 적용되며 애플리케이션 도구 또는 연결된 데이터 집합을 손상시킬 수 있습니다.
MITRE 전술: 영향
심각도: 높음
Tor IP에서 액세스
(AI. Azure_AccessFromAnonymizedIP)
설명: Tor 네트워크의 IP 주소가 AI 리소스 중 하나에 액세스했습니다. Tor는 사람들이 실제 IP를 숨기면서 인터넷에 액세스할 수 있는 네트워크입니다. 합법적인 용도는 있지만 공격자가 온라인에서 사용자의 시스템을 대상으로 할 때 ID를 숨기는 데 자주 사용됩니다.
MITRE 전술: 실행
심각도: 높음
의심스러운 IP에서 액세스
(AI. Azure_AccessFromSuspiciousIP)
설명: AI 서비스 중 하나에 액세스하는 IP 주소는 Microsoft Threat Intelligence에서 위협이 될 확률이 높은 것으로 확인되었습니다. 악의적인 인터넷 트래픽을 관찰하는 동안 이 IP는 다른 온라인 대상을 공격하는 데 관여했습니다.
MITRE 전술: 실행
심각도: 높음
의심되는 지갑 공격 - 반복 요청
(AI. Azure_DOWDuplicateRequests)
설명: 지갑 공격은 위협 행위자가 AI 리소스에 직접 또는 애플리케이션을 통해 과도하게 관여하여 조직에 큰 재정적 손해를 입히기 위해 AI 리소스에 공통적인 공격 제품군입니다. 이 검색은 지속적인 공격으로 인해 발생할 수 있는 동일한 AI 리소스를 대상으로 하는 대량의 동일한 요청을 추적합니다.
MITRE 전술: 영향
심각도: 보통
참고 항목
미리 보기에 있는 알림의 경우 Azure 미리 보기 추가 약관에는 베타, 미리 보기 또는 아직 일반 공급으로 릴리스되지 않은 Azure 기능에 적용되는 추가 법률 용어가 포함되어 있습니다.