Få program- och slutanvändarkontext för AI-aviseringar
Microsoft Defender för molnet hotskydd för AI-arbetsbelastningar kan du förbättra åtgärds- och säkerhetsvärdet för de genererade AI-aviseringarna genom att tillhandahålla både slutanvändare och programkontext.
I de flesta fall skapas program och scenarier som utnyttjar AI-tjänster som en del av ett program, så API-anropen till AI-tjänsten kommer från ett webbprogram, en beräkningsinstans eller en AI-gateway. Den här arkitekturkonfigurationen introducerar komplexitet på grund av bristande kontext när ai-begäranden utreds för att fastställa affärsprogrammet eller den berörda slutanvändaren.
Defender för molnet tillsammans med Azure AI gör det möjligt att lägga till parametrar i dina Azure AI API-anrop för att sprida kritisk slutanvändare eller programkontext till Defender för molnet AI-aviseringar. Detta leder i sin tur till effektivare sortering och resultat. När du till exempel lägger till slutanvändares IP-adress eller identitet kan du blockera användaren eller korrelera incidenter och aviseringar från användaren. När du lägger till programkontext kan du prioritera eller avgöra om misstänkt beteende kan betraktas som standard för programmet i organisationen.
Förutsättningar
Läs mer i Översikt – SKYDD mot AI-hot.
Aktivera skydd mot hot för AI-arbetsbelastningar (förhandsversion) i ett AI-program, med underliggande Azure OpenAI-modell, direkt via Azure OpenAI-tjänsten. Observera att den här funktionen för närvarande inte stöds när modeller som distribueras via Azure AI-modellinferens-API:et används.
Lägga till säkerhetsparametrar i ditt Azure OpenAI-anrop
Om du vill ta emot AI-säkerhetsaviseringar med mer kontext kan du lägga till alla eller alla följande exempelparametrar SecurityContext i dina Azure OpenAI API-anrop .
Alla fält i SecurityContext är valfria.
För slutanvändarkontext rekommenderar vi att du skickar fälten EndUserId och SourceIP till ett minimum. Fälten EndUserId och SourceIP ger SOC-analytiker (Security Operations Center) möjlighet att undersöka säkerhetsincidenter som involverar AI-resurser och generativa AI-program.
För programkontext skickar du bara fältet applicationName som en enkel sträng.
Om ett fälts namn är felstavat kommer Azure OpenAI API-anropet fortfarande att lyckas. Schemat SecurityContext kräver inte verifiering för att passera genom azure OpenAI-användarfältet. Programutvecklare bör se till att en giltig JSON skickas till user fältet i varje begäran som görs av programmet till Azure OpenAI.
SecurityContext-schema
Det exakta schemat finns i referensdokumentationen för Azure OpenAI REST API.
Objektet för användarsäkerhetskontext är en del av begärandetexten i API:et för chattens slutförande.
Den här funktionen stöds för närvarande inte när modeller som distribueras via Azure AI-modellinferens-API:et används.