Aanbevelingen voor governance voor AI-workloads in Azure
Dit artikel bevat aanbevelingen voor governance voor organisaties die AI-workloads uitvoeren in Azure. Het richt zich op PaaS-oplossingen (Platform-as-a-Service) van Azure AI, waaronder Azure AI Foundry, Azure OpenAI, Azure Machine Learning en Azure AI Services. Het omvat zowel generatieve als niet-generatieve AI-workloads.
Effectieve governance ondersteunt het verantwoorde gebruik van AI. Het stelt bedrijven in staat om hun AI-investeringen te optimaliseren en tegelijkertijd de risico's met betrekking tot beveiliging, kosten en naleving van regelgeving te verminderen.
AI-modellen beheren
Ai-modelgovernance verwijst naar de processen voor het beheren van AI-modellen om ervoor te zorgen dat ze betrouwbare, veilige en ethische uitvoer produceren. Besturingselementen voor modelinvoer en -uitvoer helpen bij het beperken van risico's. Deze risico's omvatten schadelijke inhoud en onbedoeld AI-gebruik. Beide kunnen van invloed zijn op gebruikers en de organisatie. Deze processen ondersteunen verantwoorde AI-implementatie en beschermen tegen potentiële juridische en ethische uitdagingen.
Een proces opzetten om AI-risico's te detecteren. Gebruik hulpprogramma's zoals Defender voor Cloud om generatieve AI-workloads te detecteren en risico's te verkennen om generatieve AI-artefacten vooraf te implementeren. Stel een beleid in voor regelmatig rode AI-modellen voor teams. Documenteer geïdentificeerde risico's en werk uw AI-governancebeleid continu bij om opkomende problemen te beperken.
Definieer basislijninhoudsfilters voor generatieve AI-modellen. Gebruik Azure AI Content Safety om een basislijninhoudsfilter te definiëren voor uw goedgekeurde AI-modellen. Dit veiligheidssysteem voert zowel de prompt als de voltooiing voor uw model uit via een groep classificatiemodellen. Deze classificatiemodellen detecteren en helpen de uitvoer van schadelijke inhoud in een reeks categorieën te voorkomen. Inhoudsveiligheid biedt functies zoals promptschilden, aardingsdetectie en beveiligde materiaaltekstdetectie. Afbeeldingen en tekst worden gescand. Maak een proces voor toepassingsteams om verschillende governancebehoeften te communiceren.
Grondgeneratieve AI-modellen. Gebruik systeemberichten en het rag-patroon (augmented generation ) voor het ophalen van de uitvoer van generatieve AI-modellen. Test de effectiviteit van grounding met behulp van hulpprogramma's zoals promptstroom of het opensource rode teamingframework PyRIT.
AI-kosten beheren
AI-kostenbeheer omvat het beheren van uitgaven die zijn gekoppeld aan AI-workloads om de efficiëntie te maximaliseren en onnodige uitgaven te verminderen. Effectieve kostenbeheersing zorgt ervoor dat AI-investeringen in overeenstemming zijn met bedrijfsdoelstellingen, waardoor onvoorziene kosten niet te veel of minder worden ingericht. Met deze procedures kunnen organisaties hun AI-activiteiten financieel optimaliseren.
Gebruik het juiste factureringsmodel. Als u voorspelbare workloads hebt, gebruikt u AI-toezeggingslagen in Azure AI-services. Gebruik voor Azure OpenAI-modellen ingerichte doorvoereenheden (PTU's), wat goedkoper kan zijn dan prijzen voor betalen per gebruik (op basis van verbruik). Het is gebruikelijk om PTU-eindpunten en op verbruik gebaseerde eindpunten te combineren voor kostenoptimalisatie. Gebruik PTU's op het primaire eindpunt van het AI-model en een secundair AI-eindpunt op basis van verbruik voor overloop. Zie Een gateway introduceren voor meerdere Azure OpenAI-exemplaren voor meer informatie.
Kies het juiste model voor uw use-case. Selecteer het AI-model dat aan uw behoeften voldoet zonder dat er overmatige kosten in rekening worden gebracht. Gebruik minder dure modellen, tenzij de use case een duurder model vereist. Maximaliseer het tijdgebruik binnen elke factureringsperiode om extra kosten te voorkomen voor het afstemmen van de tijd. Zie Azure OpenAI-modellen en -prijzen voor meer informatie. Zie ook Azure AI Foundry-modelcatalogus en factureringsgegevens voor modelimplementaties.
Stel inrichtingslimieten in. Wijs inrichtingsquota toe voor elk model op basis van verwachte workloads om onnodige kosten te voorkomen. Bewaak continu dynamische quota om ervoor te zorgen dat ze overeenkomen met de werkelijke vraag en pas ze dienovereenkomstig aan om optimale doorvoer te behouden zonder te veel te leveren.
Gebruik het juiste implementatietype. Met Azure OpenAI-modellen kunt u verschillende implementatietypen gebruiken. Wereldwijde implementatie biedt lagere prijs per token voor bepaalde OpenAI-modellen.
Hostingopties evalueren. Kies de juiste hostinginfrastructuur, afhankelijk van de behoeften van uw oplossing. Voor generatieve AI-workloads zijn opties bijvoorbeeld beheerde online-eindpunten, Azure Kubernetes Service (AKS) en Azure-app Service, elk met een eigen factureringsmodel. Selecteer de optie die de beste balans biedt tussen prestaties en kosten voor uw specifieke vereisten.
Beheer het clientgedrag in services op basis van verbruik. Beperk clienttoegang tot uw AI-service door beveiligingsprotocollen af te dwingen, zoals netwerkbesturingselementen, sleutels en op rollen gebaseerd toegangsbeheer (RBAC). Zorg ervoor dat clients API-beperkingen gebruiken, zoals maximumtokens en maximale voltooiingen. Indien mogelijk, batchaanvragen om de efficiëntie te optimaliseren. Houd prompts beknopt, maar geef de benodigde context om het tokenverbruik te verminderen.
Overweeg een generatieve AI-gateway te gebruiken. Met een generatieve AI-gateway kunt u tokengebruik bijhouden, tokengebruik beperken, circuitonderbrekers toepassen en routeren naar verschillende AI-eindpunten om de kosten te beheren.
Maak een beleid om rekeninstanties af te sluiten. Definieer en dwing een beleid af waarin staat dat AI-resources de functie voor automatisch afsluiten moeten gebruiken op virtuele machines en rekeninstanties in Azure AI Foundry en Azure Machine Learning. Automatisch afsluiten is van toepassing op niet-productieomgevingen en productieworkloads die u gedurende bepaalde perioden offline kunt halen.
Zie Ai-kosten en kostenoptimalisatie beheren in de Azure OpenAI-basislijnarchitectuur voor meer richtlijnen voor kostenbeheer.
AI-platforms beheren
Ai-platformgovernance omvat het toepassen van beleidsbesturingselementen op verschillende AI-services in Azure, zoals Azure AI Foundry en Azure Machine Learning. Het gebruik van governance op platformniveau dwingt consistente beveiliging, naleving en operationeel beleid af in het AI-ecosysteem. Deze uitlijning ondersteunt effectief toezicht, wat het algehele AI-beheer en de betrouwbaarheid versterkt.
Ingebouwde governancebeleidsregels gebruiken. Gebruik Azure Policy om ingebouwde beleidsdefinities toe te passen voor elk AI-platform dat u gebruikt. Het bevat Azure AI Foundry, Azure Machine Learning-, Azure AI-services, Azure AI Searchen andere.
AI-beleid voor Azure-landingszones inschakelen. Voor azure-landingszonegebruikers bevat de implementatie een samengestelde set aanbevolen ingebouwde beleidsregels voor Azure AI-platformservices. Selecteer het beleidsinitiatief dat u wilt gebruiken onder de categorie Workloadspecifieke naleving tijdens een implementatie van een Azure-landingszone. De beleidsregelssets omvatten Azure OpenAI, Azure Machine Learning en Azure AI Search en Azure Bot-services.
AI-beveiliging beheren
AI-beveiligingsgovernance biedt een oplossing voor de noodzaak om AI-workloads te beschermen tegen bedreigingen die gegevens, modellen of infrastructuur kunnen beschadigen. Robuuste beveiligingsprocedures beschermen deze systemen tegen onbevoegde toegang en schendingen van gegevens. Deze beveiliging zorgt voor de integriteit en betrouwbaarheid van AI-oplossingen, wat essentieel is voor het handhaven van gebruikersvertrouwen en naleving van regelgeving.
Schakel Defender voor Cloud in voor elk abonnement. Defender voor Cloud biedt een rendabele benadering voor het detecteren van configuraties in uw geïmplementeerde resources die niet veilig zijn. U moet ook AI-bedreigingsbeveiliging inschakelen.
Toegangsbeheer configureren. Verleen de gebruiker met minimale bevoegdheden toegang tot gecentraliseerde AI-resources. Begin bijvoorbeeld met de Azure-rol Lezer en verbreed de Azure-rol Inzender als de beperkte machtigingen de ontwikkeling van toepassingen vertragen.
Beheerde identiteiten gebruiken. Beheerde identiteit gebruiken voor alle ondersteunde Azure-services. Ververleent minimale toegang tot toepassingsbronnen die toegang nodig hebben tot eindpunten van het AI-model.
Just-In-Time-toegang gebruiken. Gebruik privileged identity management (PIM) voor Just-In-Time-toegang.
AI-bewerkingen beheren
AI Operations Governance richt zich op het beheren en onderhouden van stabiele AI-services. Deze bewerkingen ondersteunen langetermijnbetrouwbaarheid en -prestaties. Gecentraliseerde toezichts- en continuïteitsplannen helpen organisaties downtime te voorkomen, wat zorgt voor de consistente bedrijfswaarde van AI. Deze inspanningen dragen bij aan een efficiënte AI-implementatie en een duurzame operationele effectiviteit.
AI-modellen controleren en beheren. Ontwikkel een beleid voor het beheren van modelversiebeheer, met name omdat modellen worden bijgewerkt of buiten gebruik worden gesteld. U moet compatibiliteit met bestaande systemen behouden en zorgen voor een soepele overgang tussen modelversies.
Definieer een plan voor bedrijfscontinuïteit en herstel na noodgevallen. Stel een beleid in voor bedrijfscontinuïteit en herstel na noodgevallen voor uw AI-eindpunten en AI-gegevens. Configureer herstel na noodgeval basislijn voor resources die als host fungeren voor uw AI-modeleindpunten. Deze resources omvatten Azure AI Foundry-, Azure Machine Learning-, Azure OpenAI-of Azure AI-services. Alle Azure-gegevensarchieven, zoals Azure Blob Storage, Azure Cosmos DB en Azure SQL Database, bieden richtlijnen voor betrouwbaarheid en herstel na noodgevallen die u moet volgen.
Definieer metrische basislijngegevens voor AI-resources. Schakel aanbevolen waarschuwingsregels in om meldingen te ontvangen van afwijkingen die wijzen op een afname van de workloadstatus. Zie Azure AI Search, Azure Machine Learning-, Implementaties van azure AI Foundry-promptstromenen richtlijnen voor afzonderlijke Azure AI-services voor voorbeelden.
Naleving van AI-regelgeving beheren
Naleving van regelgeving in AI vereist dat organisaties voldoen aan industriestandaarden en wettelijke verplichtingen, waardoor risico's met betrekking tot verplichtingen worden verminderd en vertrouwen worden opgebouwd. Nalevingsmaatregelen helpen organisaties sancties te voorkomen en geloofwaardigheid bij klanten en toezichthouders te verbeteren. Door aan deze standaarden te voldoen, wordt een solide basis gelegd voor verantwoordelijk en compatibel AI-gebruik.
Automatiseer naleving. Gebruik Microsoft Purview Compliance Manager om naleving in cloudomgevingen te beoordelen en te beheren. Gebruik de toepasselijke initiatieven voor naleving van regelgeving in Azure Policy voor uw branche. Pas andere beleidsregels toe op basis van de AI-services die u gebruikt, zoals Azure AI Foundry- en Azure Machine Learning-.
Ontwikkel branchespecifieke controlelijsten voor naleving. Regelgeving en standaarden verschillen per branche en locatie. U moet weten wat uw wettelijke vereisten zijn en controlelijsten opstellen die overeenkomen met de wettelijke eisen die relevant zijn voor uw branche. Gebruik standaarden, zoals ISO/IEC 23053:2022 (Framework for Artificial Intelligence Systems Using Machine Learning) om beleidsregels te controleren die worden toegepast op uw AI-workloads.
AI-gegevens beheren
AI-gegevensbeheer omvat beleidsregels om ervoor te zorgen dat gegevens die worden ingevoerd in AI-modellen, geschikt, compatibel en veilig zijn. Gegevensbeheer beschermt privacy en intellectueel eigendom, wat de betrouwbaarheid en kwaliteit van AI-uitvoer verbetert. Deze maatregelen helpen risico's met betrekking tot gegevensmisbruik te beperken en ze zijn afgestemd op wettelijke en ethische normen.
Stel een proces in voor het catalogiseren van gegevens. Gebruik een hulpprogramma zoals Microsoft Purview om een geïntegreerd gegevenscatalogus- en classificatiesysteem in uw organisatie te implementeren. Integreer dit beleid in uw CI/CD-pijplijnen voor AI-ontwikkeling.
Beveilig de grenzen van gegevensbeveiliging. Het catalogiseren van gegevens zorgt ervoor dat u geen gevoelige gegevens invoert in openbare AI-eindpunten. Wanneer u indexen maakt op basis van bepaalde gegevensbronnen, kan het indexeringsproces de beveiligingsgrenzen rond gegevens verwijderen. Zorg ervoor dat alle gegevens die in AI-modellen worden opgenomen, worden geclassificeerd en gecontroleerd volgens gecentraliseerde standaarden.
Inbreuk op het auteursrecht voorkomen. Gebruik een inhoudsfiltersysteem zoals beveiligde materiaaldetectie in Azure AI Content Safety om auteursrechtelijk beschermd materiaal te filteren. Als u een AI-model opstelt, traint of afstemt, moet u ervoor zorgen dat u wettelijk verkregen en correct gelicentieerde gegevens gebruikt en beveiliging implementeert om te voorkomen dat het model inbreuk maakt op copyrights. Controleer regelmatig de uitvoer voor naleving van intellectuele eigendom.
Implementeer versiebeheer voor grondgegevens. Stel een versiebeheerproces in voor grondgegevens, bijvoorbeeld in RAG. Versiebeheer zorgt ervoor dat u wijzigingen in de onderliggende gegevens of de structuur ervan kunt bijhouden. U kunt de wijzigingen indien nodig herstellen, zodat de consistentie tussen implementaties behouden blijft.