Obter contexto do aplicativo e usuário final para os alertas de IA
A proteção contra ameaças do Microsoft Defender para Nuvem para cargas de trabalho de IA permite que você aprimore a acionabilidade e o valor da segurança dos alertas de IA gerados ao fornecer o contexto do usuário final e do aplicativo.
Na maioria dos casos, os aplicativos e cenários que aproveitam os serviços de IA são criados como parte de um aplicativo, portanto, as chamadas à API para o serviço de IA se originam de um aplicativo Web, uma instância de computação ou um gateway de IA. Essa configuração de arquitetura apresenta complexidade devido à falta de contexto ao investigar solicitações de IA para determinar o aplicativo de negócios ou o usuário final envolvido.
O Defender para Nuvem, juntamente com a IA do Azure, permite adicionar parâmetros às chamadas À API de IA do Azure para propagar o contexto crítico do usuário final ou do aplicativo para alertas de IA do Defender para Nuvem. Isso, por sua vez, leva a uma triagem e resultados mais eficazes. Por exemplo, ao adicionar o IP ou a identidade do usuário final, você pode bloquear esse usuário ou correlacionar incidentes e alertas por esse usuário. Ao adicionar o contexto do aplicativo, você pode priorizar ou determinar se o comportamento suspeito pode ser considerado padrão para esse aplicativo na organização.
Pré-requisitos
Leia mais em Visão geral – Proteção contra ameaças de IA.
Habilitar proteção contra ameaças para cargas de trabalho de IA (versão prévia) em um aplicativo de IA, com modelo subjacente do OpenAI do Azure, diretamente através do Serviço OpenAI do Azure. Observe que atualmente não há suporte para esse recurso ao utilizar modelos implantados através da API de inferência de modelo do IA do Azure.
Adicionar parâmetros de segurança à sua chamada do OpenAI do Azure
Para receber alertas de segurança de IA com mais contexto, você pode adicionar todos ou um dos exemplos de parâmetros de SecurityContext a seguir às suas chamadas à API do OpenAI do Azure.
Todos os campos no SecurityContext são opcionais.
Para o contexto do usuário final, recomendamos passar no mínimo os campos EndUserId e SourceIP. Os campos EndUserId e SourceIP fornecem aos analistas do Centro de Operações de Segurança (SOC) a capacidade de investigar os incidentes de segurança que envolvem recursos de IA e aplicativos de IA generativa.
Para o contexto do aplicativo, basta passar o campo applicationName como uma cadeia de caracteres simples.
Mesmo se o nome de um campo tiver erros de ortografia a chamada à API do OpenAI do Azure terá sucesso. O esquema SecurityContext não requer validação para ser repassado para o campo de usuário do OpenAI do Azure. Os desenvolvedores de aplicativos devem garantir que um JSON válido seja repassado para o campo de user em todas as solicitações feitas pelo aplicativo ao OpenAI do Azure.
Esquema SecurityContext
O esquema exato pode ser encontrado na documentação de referência de API REST do OpenAI do Azure.
O objeto de contexto de segurança do usuário faz parte do corpo da solicitação da API de conclusão de chat.
Atualmente, não há suporte para esse recurso ao utilizar modelos implantados através da API de inferência de modelo do IA do Azure.