AI 경고에 대한 애플리케이션 및 최종 사용자 컨텍스트 얻기
클라우드용 Microsoft Defender AI 워크로드에 대한 위협 방지를 사용하면 최종 사용자 및 애플리케이션 컨텍스트를 모두 제공하여 생성된 AI 경고의 실행 가능성 및 보안 가치를 향상시킬 수 있습니다.
대부분의 경우 AI 서비스를 활용하는 애플리케이션 및 시나리오는 애플리케이션의 일부로 빌드되므로 AI 서비스에 대한 API 호출은 웹 애플리케이션, 컴퓨팅 인스턴스 또는 AI 게이트웨이에서 시작됩니다. 이 아키텍처 설정은 AI 요청을 조사하여 비즈니스 애플리케이션 또는 관련된 최종 사용자를 결정할 때 컨텍스트가 부족하여 복잡성을 발생합니다.
클라우드용 Defender Azure AI와 함께 Azure AI API 호출에 매개 변수를 추가하여 중요한 최종 사용자 또는 애플리케이션 컨텍스트를 클라우드용 Defender AI 경고에 전파할 수 있습니다. 이, 차례로, 더 효과적인 심사 및 결과 리드. 예를 들어 최종 사용자 IP 또는 ID를 추가할 때 해당 사용자를 차단하거나 해당 사용자가 인시던트 및 경고의 상관 관계를 지정할 수 있습니다. 애플리케이션 컨텍스트를 추가할 때 조직의 해당 애플리케이션에 대해 의심스러운 동작을 표준으로 간주할 수 있는지 여부를 우선 순위를 지정하거나 확인할 수 있습니다.
필수 조건
개요 - AI 위협 방지를 참조하세요.
Azure OpenAI 서비스를 통해 직접 Azure OpenAI 기본 모델을 사용하여 AI 애플리케이션에서 AI 워크로드(미리 보기) 에 대한 위협 방지를 사용하도록 설정합니다. 이 기능은 현재 Azure AI 모델 유추 API를 통해 배포된 모델을 활용하는 경우 지원되지 않습니다.
Azure OpenAI 호출에 보안 매개 변수 추가
더 많은 컨텍스트를 사용하여 AI 보안 경고를 받으려면 다음 샘플 SecurityContext 매개 변수의 일부 또는 전체를 Azure OpenAI API 호출에 추가할 수 있습니다.
SecurityContext의 모든 필드는 선택 사항입니다.
최종 사용자 컨텍스트의 경우 최소한 필드와 SourceIP 필드를 전달하는 EndUserId 것이 좋습니다.
EndUserId 및 SourceIP 필드는 SOC(보안 운영 센터) 분석가에게 AI 리소스 및 생성형 AI 애플리케이션과 관련된 보안 인시던트 조사 기능을 제공합니다.
애플리케이션 컨텍스트의 applicationName 경우 필드를 간단한 문자열로 전달하기만 하면 됩니다.
필드’이름의 철자가 틀려도 Azure OpenAI API 호출은 여전히 성공합니다.
SecurityContext 스키마는 Azure OpenAI 사용자 필드를 통과하기 위해 유효성 검사가 필요하지는 않습니다. 애플리케이션 개발자는 애플리케이션에서 Azure OpenAI로 수행한 모든 요청에서 유효한 JSON이 user 필드에 전달되도록 해야 합니다.
SecurityContext 스키마
정확한 스키마는 Azure OpenAI REST API 참조 설명서에서 찾을 수 있습니다.
사용자 보안 컨텍스트 개체는 채팅 완료 API의 요청 본문에 포함됩니다.
이 기능은 현재 Azure AI 모델 유추 API를 통해 배포된 모델을 활용하는 경우 지원되지 않습니다.