Esplorare i rischi per gli artefatti di IA generativa pre-distribuzione
Il piano CSPM (Defender Cloud Security Posture Management) in Microsoft Defender per il cloud consente di migliorare il comportamento di sicurezza delle app di intelligenza artificiale generative, identificando le vulnerabilità nelle librerie di intelligenza artificiale generative presenti negli artefatti di intelligenza artificiale, ad esempio immagini del contenitore e repository di codice. Questo articolo illustra come esplorare, identificare i rischi per la sicurezza per tali applicazioni.
Prerequisiti
Leggere le informazioni sulla gestione del comportamento di sicurezza dell'intelligenza artificiale.
Altre informazioni sull'analisi dei rischi con Cloud Security Explorer e i percorsi di attacco.
È necessaria una sottoscrizione di Microsoft Azure . Se non si ha una sottoscrizione di Azure, è possibile iscriversi per ottenere una sottoscrizione gratuita.
Abilitare Defender per il cloud nella sottoscrizione di Azure.
Abilitare Defender Cloud Security Posture Management (CSPM) nella sottoscrizione di Azure.
Avere almeno una risorsa OpenAI di Azure, con almeno una distribuzione del modello connessa tramite il portale di Azure AI Foundry.
Identificare i contenitori in esecuzione in immagini contenitore di intelligenza artificiale vulnerabili
Cloud Security Explorer può essere usato per identificare i contenitori che eseguono immagini del contenitore di intelligenza artificiale generative con vulnerabilità note.
Accedere al portale di Azure.
Cercare e selezionare Microsoft Defender per il cloud> Cloud Security Explorer.
Selezionare il modello di query Contenitore che esegue immagini del contenitore con vulnerabilità di intelligenza artificiale generative note.
Seleziona Cerca.
Selezionare un risultato per esaminarne i dettagli.
Selezionare un nodo per esaminare i risultati.
Nella sezione Insights selezionare un ID CVE dal menu a discesa.
Selezionare Apri la pagina della vulnerabilità.
Identificare i repository di codice di intelligenza artificiale generativi vulnerabili
Cloud Security Explorer può essere usato per identificare repository di codice di intelligenza artificiale generativi vulnerabili, che effettuano il provisioning di Azure OpenAI.
Accedere al portale di Azure.
Cercare e selezionare Microsoft Defender per il cloud> Cloud Security Explorer.
Selezionare i repository di codice vulnerabili generativi per intelligenza artificiale che eseguono il provisioning del modello di query OpenAI di Azure.
Seleziona Cerca.
Selezionare un risultato per esaminarne i dettagli.
Selezionare un nodo per esaminare i risultati.
Nella sezione Insights selezionare un ID CVE dal menu a discesa.
Selezionare Apri la pagina della vulnerabilità.
