Zkoumání rizik pro generování artefaktů umělé inteligence před nasazením
Plán CPM (Cloud Security Management) v programu Defender for Cloud pomáhá zlepšit stav zabezpečení generovaných aplikací AI tím, že identifikuje chyby zabezpečení v generovaných knihovnách AI, které existují v artefaktech AI, jako jsou image kontejnerů a úložiště kódu. Tento článek vysvětluje, jak prozkoumat, identifikovat bezpečnostní rizika pro tyto aplikace.
Požadavky
Přečtěte si o správě stavu zabezpečení AI.
Přečtěte si další informace o vyšetřování rizik pomocí Průzkumníka zabezpečení cloudu a cest útoku.
Budete potřebovat předplatné Microsoft Azure. Pokud předplatné Azure nemáte, můžete si zaregistrovat bezplatné předplatné.
Povolte Defender for Cloud ve vašem předplatném Azure.
V předplatném Azure povolte správu stavu zabezpečení cloudu (CSPM) v programu Defender.
Mít alespoň jeden prostředek Azure OpenAI s alespoň jedním nasazením modelu, které je k němu připojené přes portál Azure AI Foundry.
Identifikace kontejnerů spuštěných na ohrožených imagích kontejnerů umělé inteligence
Průzkumník zabezpečení cloudu se dá použít k identifikaci kontejnerů, na kterých běží generující image kontejnerů AI se známými ohroženími zabezpečení.
Přihlaste se k portálu Azure.
Vyhledejte a vyberte Průzkumníka cloudových zabezpečení v programu Microsoft Defender for Cloud>Security.
Vyberte kontejner, na kterém běží image kontejneru se známou šablonou dotazů generující AI .
Vyberte Hledat.
Výběrem výsledku zkontrolujte jeho podrobnosti.
Výběrem uzlu zkontrolujte zjištění.
V části Přehledy v rozevírací nabídce vyberte ID CVE.
Vyberte Otevřít stránku ohrožení zabezpečení.
Identifikace ohrožených úložišť generujícího kódu AI
Průzkumník zabezpečení cloudu se dá použít k identifikaci ohrožených úložišť generujícího kódu AI, která zřizují Azure OpenAI.
Přihlaste se k portálu Azure.
Vyhledejte a vyberte Průzkumníka cloudových zabezpečení v programu Microsoft Defender for Cloud>Security.
Vyberte úložiště ohroženého kódu generující AI, která zřizují šablonu dotazu Azure OpenAI.
Vyberte Hledat.
Výběrem výsledku zkontrolujte jeho podrobnosti.
Výběrem uzlu zkontrolujte zjištění.
V části Přehledy v rozevírací nabídce vyberte ID CVE.
Vyberte Otevřít stránku ohrožení zabezpečení.
