Waarschuwingen voor AI-workloads (preview)
In dit artikel worden de beveiligingswaarschuwingen vermeld die u mogelijk krijgt voor AI-workloads van Microsoft Defender voor Cloud en eventuele Microsoft Defender-abonnementen die u hebt ingeschakeld. De waarschuwingen die in uw omgeving worden weergegeven, zijn afhankelijk van de resources en services die u beveiligt en uw aangepaste configuratie.
Notitie
Sommige van de onlangs toegevoegde waarschuwingen mogelijk gemaakt door Microsoft Defender-bedreigingsinformatie en Microsoft Defender voor Eindpunt zijn mogelijk niet-gedocumenteerd.
Meer informatie over hoe u kunt reageren op deze waarschuwingen.
Meer informatie over het exporteren van waarschuwingen.
Notitie
Hoe snel een waarschuwing wordt weergegeven, hangt af van de bron van de waarschuwing. Waarschuwingen waarvoor analyse van netwerkverkeer is vereist, worden bijvoorbeeld later weergegeven dan waarschuwingen met betrekking tot verdachte processen op virtuele machines.
Waarschuwingen voor AI-workloads
Detected credential theft attempts on an Azure AI model deployment (Pogingen tot diefstal van referenties gedetecteerd voor een implementatie van een Azure
(AI. Azure_CredentialTheftAttempt)
Beschrijving: De waarschuwing voor referentiediefstal is ontworpen om de SOC op de hoogte te stellen wanneer referenties worden gedetecteerd in genAI-modelreacties op een gebruikersprompt, wat aangeeft dat er een mogelijke inbreuk is. Deze waarschuwing is van cruciaal belang voor het detecteren van gevallen van referentielek of diefstal, die uniek zijn voor generatieve AI en ernstige gevolgen kunnen hebben als ze succesvol zijn.
MITRE-tactieken: referentietoegang, laterale verplaatsing, exfiltratie
Ernst: gemiddeld
Een jailbreakpoging op een Azure AI-modelimplementatie is geblokkeerd door Azure AI Content Safety Prompt Shields
(AI. Azure_Jailbreak.ContentFiltering.BlockedAttempt)
Beschrijving: De Jailbreak-waarschuwing, uitgevoerd met behulp van een directe promptinjectietechniek, is ontworpen om de SOC op de hoogte te stellen van een poging om de systeemprompt te manipuleren om de beveiligingsmechanismen van AI te omzeilen, mogelijk toegang tot gevoelige gegevens of bevoegde functies. Er is aangegeven dat dergelijke pogingen zijn geblokkeerd door Azure Responsible AI Content Safety (ook wel Prompt Shields genoemd), waardoor de integriteit van de AI-resources en de gegevensbeveiliging wordt gewaarborgd.
MITRE-tactieken: Escalatie van bevoegdheden, defensieontduiking
Ernst: gemiddeld
Er is een jailbreakpoging op een Azure AI-modelimplementatie gedetecteerd door Azure AI Content Safety Prompt Shields
(AI. Azure_Jailbreak.ContentFiltering.DetectedAttempt)
Beschrijving: De Jailbreak-waarschuwing, uitgevoerd met behulp van een directe promptinjectietechniek, is ontworpen om de SOC op de hoogte te stellen van een poging om de systeemprompt te manipuleren om de beveiligingsmechanismen van AI te omzeilen, mogelijk toegang tot gevoelige gegevens of bevoegde functies. Er is aangegeven dat dergelijke pogingen zijn gedetecteerd door Azure Responsible AI Content Safety (ook wel Prompt Shields genoemd), maar niet zijn geblokkeerd vanwege instellingen voor inhoudsfiltering of vanwege een lage betrouwbaarheid.
MITRE-tactieken: Escalatie van bevoegdheden, defensieontduiking
Ernst: gemiddeld
Blootstelling aan gevoelige gegevens gedetecteerd in azure AI-modelimplementatie
(AI. Azure_DataLeakInModelResponse.Gevoelig)
Beschrijving: De waarschuwing voor het lekken van gevoelige gegevens is ontworpen om de SOC op de hoogte te stellen dat een GenAI-model heeft gereageerd op een gebruikersprompt met gevoelige informatie, mogelijk omdat een kwaadwillende gebruiker probeert de beveiligingsmechanismen van AI te omzeilen om toegang te krijgen tot onbevoegde gevoelige gegevens.
MITRE-tactieken: Verzameling
Ernst: Laag
Beschadigde AI-toepassing\model\gegevens hebben een phishingpoging naar een gebruiker geleid
(AI. Azure_PhishingContentInModelResponse)
Beschrijving: Deze waarschuwing geeft een beschadiging aan van een AI-toepassing die is ontwikkeld door de organisatie, omdat deze actief een bekende schadelijke URL heeft gedeeld die wordt gebruikt voor phishing met een gebruiker. De URL is afkomstig uit de toepassing zelf, het AI-model of de gegevens die de toepassing kan openen.
MITRE-tactieken: Impact (Defacement)
Ernst: Hoog
Phishing-URL gedeeld in een AI-toepassing
(AI. Azure_PhishingContentInAIApplication)
Beschrijving: Deze waarschuwing geeft een mogelijke beschadiging van een AI-toepassing aan of een phishingpoging door een van de eindgebruikers. De waarschuwing bepaalt dat een schadelijke URL die wordt gebruikt voor phishing is doorgegeven tijdens een gesprek via de AI-toepassing, maar de oorsprong van de URL (gebruiker of toepassing) is onduidelijk.
MITRE tactiek: Impact (Defacement), Verzameling
Ernst: Hoog
Phishingpoging gedetecteerd in een AI-toepassing
(AI. Azure_PhishingContentInUserPrompt)
Beschrijving: Deze waarschuwing geeft aan dat een URL die wordt gebruikt voor phishingaanvallen is verzonden door een gebruiker naar een AI-toepassing. De inhoud probeert meestal om bezoekers te verleiden hun bedrijfsreferenties of financiële gegevens te verstrekken op website die eruit ziet als een betrouwbare site. Het verzenden van deze toepassing naar een AI-toepassing kan het doel zijn om deze te beschadigen, de gegevensbronnen te vergiftigen waar hij toegang toe heeft of om toegang te krijgen tot werknemers of andere klanten via de hulpprogramma's van de toepassing.
MITRE-tactieken: Verzameling
Ernst: Hoog
Suspicious user agent detected (
(AI. Azure_AccessFromSuspiciousUserAgent)
Beschrijving: De gebruikersagent van een aanvraag die toegang heeft tot een van uw Azure AI-resources bevat afwijkende waarden die wijzen op een poging om de resource te misbruiken of te manipuleren. De verdachte gebruikersagent in kwestie is toegewezen door bedreigingsinformatie van Microsoft, omdat deze vermoedelijk schadelijk is en daarom zijn uw resources waarschijnlijk gecompromitteerd.
MITRE-tactiek: Uitvoering, Reconnaissance, Initiële toegang
Ernst: gemiddeld
AsCII-smokkelprompt injectie gedetecteerd
(AI. Azure_ASCIISmuggling)
Beschrijving: MET ASCII-smokkeltechniek kan een aanvaller onzichtbare instructies naar een AI-model verzenden. Deze aanvallen worden meestal toegeschreven aan indirecte promptinjecties, waarbij de kwaadwillende bedreigingsacteur verborgen instructies doorgeeft om de toepassing en modelbeveiligingen te omzeilen. Deze aanvallen worden meestal toegepast zonder dat de gebruiker kennis heeft gekregen van het gebrek aan zichtbaarheid in de tekst en kan inbreuk maken op de toepassingshulpprogramma's of verbonden gegevenssets.
MITRE-tactieken: Impact
Ernst: Hoog
Toegang vanaf een Ip-adres van Tor
(AI. Azure_AccessFromAnonymizedIP)
Beschrijving: Een IP-adres van het Tor-netwerk heeft toegang gekregen tot een van de AI-resources. Tor is een netwerk waarmee mensen toegang hebben tot internet terwijl hun echte IP-adres verborgen blijft. Hoewel er legitieme toepassingen zijn, wordt het vaak gebruikt door aanvallers om hun identiteit te verbergen wanneer ze zich online richten op systemen van personen.
MITRE-tactiek: uitvoering
Ernst: Hoog
Toegang vanaf verdacht IP-adres
(AI. Azure_AccessFromSuspiciousIP)
Beschrijving: Een IP-adres dat toegang heeft tot een van uw AI-services, is geïdentificeerd door Microsoft Threat Intelligence omdat er een hoge kans bestaat dat het een bedreiging is. Tijdens het observeren van schadelijk internetverkeer, kwam dit IP-adres als betrokken bij het aanvallen van andere onlinedoelen.
MITRE-tactiek: uitvoering
Ernst: Hoog
Verdachte wallet-aanval - terugkerende aanvragen
(AI. Azure_DOWDuplicateRequests)
Beschrijving: Wallet-aanvallen zijn een familie van aanvallen die gangbaar zijn voor AI-resources die bestaan uit bedreigingsactoren die overmatige interactie hebben met een AI-resource of via een toepassing in de hoop grote financiële schade van de organisatie te veroorzaken. Met deze detectie worden grote hoeveelheden identieke aanvragen bijgehouden die gericht zijn op dezelfde AI-resource die mogelijk wordt veroorzaakt door een doorlopende aanval.
MITRE-tactieken: Impact
Ernst: gemiddeld
Notitie
Voor waarschuwingen die in preview zijn: de aanvullende voorwaarden van Azure Preview bevatten aanvullende juridische voorwaarden die van toepassing zijn op Azure-functies die beschikbaar zijn in bèta, preview of anderszins nog niet beschikbaar zijn in algemene beschikbaarheid.