Exploración de riesgos para artefactos de IA generativos previamente a la implementación
El plan de Administración de posturas de seguridad en la nube (CSPM) de Defender en Microsoft Defender for Cloud le ayuda a mejorar la posición de seguridad de las aplicaciones de IA generativas mediante la identificación de vulnerabilidades en las bibliotecas de IA generativas que existen en los artefactos de inteligencia artificial, como imágenes de contenedor y repositorios de código. En este artículo se explica cómo explorar e identificar los riesgos de seguridad para esas aplicaciones.
Requisitos previos
Obtenga información sobre Administración de la posición de seguridad de la inteligencia artificial.
Obtenga más información sobre investigar los riesgos con el explorador de seguridad en la nube y las rutas de acceso a ataques.
Necesita una suscripción a Microsoft Azure . Si no tiene una suscripción de Azure, puede registrarse para una evaluación gratuita.
Habilite Administración de la posición de seguridad en la nube de Defender (CSPM) en su suscripción de Azure.
Tenga al menos un Recurso de Azure OpenAI, con al menos una implementación de modelos conectada a él a través de Azure AI Studio.
Identificación de contenedores que se ejecutan en imágenes de contenedor de IA generativas vulnerables
El Explorador de seguridad en la nube se puede usar para identificar contenedores que ejecutan imágenes de contenedor de IA generativas con vulnerabilidades conocidas.
Inicie sesión en Azure Portal.
Busque y seleccione Microsoft Defender for Cloud>Cloud Security Explorer.
Seleccione la plantilla de consultaContenedor que ejecuta imágenes de contenedor con vulnerabilidades de IA generativas conocidas.
Seleccione Search.
Seleccione un resultado para revisar sus detalles.
Seleccione un nodo para revisar los resultados.
En la sección Información, seleccione un identificador CVE en el menú desplegable.
Seleccione Abrir la página de vulnerabilidades.
Identificación de repositorios de código de IA generativos vulnerables
El explorador de seguridad en la nube se puede usar para identificar repositorios de código de IA generativos vulnerables que aprovisionan Azure OpenAI.
Inicie sesión en Azure Portal.
Busque y seleccione Microsoft Defender for Cloud>Cloud Security Explorer.
Seleccione los repositorios de código vulnerables de Generative AI que proporcionan la plantilla de consulta Azure OpenAI.
Seleccione Search.
Seleccione un resultado para revisar sus detalles.
Seleccione un nodo para revisar los resultados.
En la sección Información, seleccione un identificador CVE en el menú desplegable.
Seleccione Abrir la página de vulnerabilidades.
