Explore os riscos dos artefatos de IA generativa pré-implantação
O plano Defender Cloud Security Posture Management (CSPM) no Microsoft Defender for Cloud ajuda você a melhorar a postura de segurança de aplicativos de IA generativos, identificando vulnerabilidades em bibliotecas de IA generativas que existem em seus artefatos de IA, como imagens de contêiner e repositórios de código. Este artigo explica como explorar e identificar riscos de segurança para esses aplicativos.
Pré-requisitos
Leia sobre o gerenciamento de postura de segurança de IA.
Saiba mais sobre como investigar riscos com o explorador de segurança na nuvem e caminhos de ataque.
Precisará de uma subscrição do Microsoft Azure. Se não tiver uma subscrição do Azure, pode inscrever-se numa subscrição gratuita.
Habilite o Defender for Cloud em sua assinatura do Azure.
Habilite o CSPM (Defender Cloud Security Posture Management) em sua assinatura do Azure.
Tenha pelo menos um recurso do Azure OpenAI, com pelo menos uma implantação de modelo conectada a ele por meio do portal do Azure AI Foundry.
Identificar contêineres em execução em imagens de contêineres de IA generativa vulneráveis
O explorador de segurança na nuvem pode ser usado para identificar contêineres que estão executando imagens de contêiner de IA generativas com vulnerabilidades conhecidas.
Inicie sessão no portal do Azure.
Procure e selecione Microsoft Defender for Cloud>Security Explorer.
Selecione o modelo de consulta Contêiner executando imagens de contêiner com vulnerabilidades conhecidas da IA generativa.
Selecione Pesquisar.
Selecione um resultado para rever os seus detalhes.
Selecione um nó para revisar as descobertas.
Na seção insights, selecione uma ID CVE no menu suspenso.
Selecione Abrir a página de vulnerabilidade.
Identificar repositórios de código de IA generativa vulneráveis
O explorador de segurança na nuvem pode ser usado para identificar repositórios de código de IA generativa vulneráveis, que provisionam o Azure OpenAI.
Inicie sessão no portal do Azure.
Procure e selecione Microsoft Defender for Cloud>Security Explorer.
Selecione os repositórios de código vulneráveis da IA Generativa que provisionam o modelo de consulta do Azure OpenAI .
Selecione Pesquisar.
Selecione um resultado para rever os seus detalhes.
Selecione um nó para revisar as descobertas.
Na seção insights, selecione uma ID CVE no menu suspenso.
Selecione Abrir a página de vulnerabilidade.
