Sécurisation de l’IA : Recommandations pour les organisations sécurisant les charges de travail d’IA dans Azure
Cet article présente le processus organisationnel pour sécuriser les charges de travail d’IA. Il se concentre sur la confidentialité, l’intégrité et la disponibilité (CIA) de l’IA. Des pratiques de sécurité efficaces réduisent le risque de compromission en protégeant la confidentialité, l’intégrité et la disponibilité des modèles et données d’IA. Un environnement IA sécurisé s’aligne également sur les objectifs de sécurité de l’entreprise et renforce la confiance dans les processus pilotés par l’IA.
Évaluer régulièrement les risques de sécurité
L’évaluation des risques de sécurité de l’IA consiste à identifier et évaluer les vulnérabilités potentielles pouvant affecter les charges de travail d’IA. Aborder ces risques de manière proactive aide à prévenir les violations, manipulations et abus, renforçant ainsi la fiabilité des applications d’IA. Cette approche soutient également les objectifs organisationnels en protégeant les données sensibles et en maintenant la confiance des parties prenantes.
Identifier les risques communs de sécurité de l’IA. Utilisez des ressources reconnues telles que MITRE ATLAS, OWASP Machine Learning risk et OWASP Generative AI risk pour évaluer régulièrement les risques liés à toutes les charges de travail d’IA. Pour une gestion continue de la posture de sécurité, envisagez d’utiliser des outils de sécurité IA tels que AI security posture management dans Microsoft Defender pour le cloud. Ces outils peuvent automatiser la détection et la remédiation des risques d’IA générative.
Identifiez les risques liés aux données. La perte ou l’exposition de données sensibles peut avoir des répercussions importantes sur les parties prenantes de votre organisation et sur les obligations de conformité. Utilisez des outils d’entreprise tels que Microsoft Purview Insider Risk Management pour évaluer les risques internes et maintenir la sécurité des données dans toute l’entreprise. Pour toutes les charges de travail d’IA, classez et hiérarchisez les risques en fonction de la sensibilité des données qu’elles traitent, stockent ou transmettent.
Modélisation des menaces de l’IA Réalisez une modélisation des menaces d’IA à l’échelle de l’entreprise en utilisant des frameworks comme STRIDE pour évaluer les vecteurs d’attaque potentiels pour toutes les charges de travail d’IA. Mettez à jour régulièrement les modèles de menace pour les adapter aux nouveaux cas d’utilisation et menaces de l’IA. Le centre d’excellence en IA devrait envisager de centraliser la modélisation des menaces d’IA pour assurer une approche uniforme dans toute l’organisation et atténuer les risques liés aux divers modèles d’IA, sources de données et processus.
Tester les modèles d’IA Effectuez des tests en équipe rouge contre les modèles d’IA générative et les modèles non génératifs pour évaluer leur vulnérabilité aux attaques. Des outils tels que PyRIT peuvent automatiser ce processus pour l’IA générative, permettant ainsi de mettre à l’épreuve les résultats du modèle dans diverses conditions. Cette étape est hautement technique et nécessite une expertise dédiée pour être réalisée efficacement.
Mettre en place des contrôles de sécurité pour l’IA
La mise en œuvre de contrôles de sécurité IA consiste à établir des politiques, procédures et outils qui protègent les ressources et les données de l’IA. Ces contrôles aident à garantir la conformité aux exigences réglementaires et à protéger contre les accès non autorisés, soutenant le fonctionnement continu et la confidentialité des données. En appliquant des contrôles cohérents sur les charges de travail IA, vous pouvez gérer la sécurité plus efficacement.
Sécuriser les ressources IA
Sécuriser les ressources IA inclut la gestion et la protection des systèmes, modèles et infrastructures qui soutiennent les applications d’IA. Cette étape réduit le risque d’accès non autorisé et aide à standardiser les pratiques de sécurité dans toute l’organisation. Un inventaire complet des ressources permet une application cohérente des politiques de sécurité et renforce le contrôle global des actifs IA.
Établir un inventaire centralisé des actifs IA. Maintenir un inventaire détaillé et à jour de vos ressources de charge de travail IA vous assure de pouvoir appliquer uniformément les politiques de sécurité à toutes les charges de travail IA. Élaborez un inventaire à l’échelle de l’entreprise de tous les systèmes, modèles, ensembles de données et infrastructures IA dans Azure. Utilisez des outils tels que Azure Resource Graph Explorer et Microsoft Defender pour le cloud pour automatiser le processus de découverte. Microsoft Defender pour le cloud peut découvrir les charges de travail d’IA générative et dans les artéfacts d’IA générative pré-déploiement.
Sécuriser les plateformes IA d’Azure. Standardisez l’application des baselines de sécurité Azure pour chaque ressource IA. Suivez les recommandations de sécurité dans les guides de service Azure.
Utilisez des directives de gouvernance spécifiques à la charge de travail. Des directives de sécurité détaillées sont disponibles pour les charges de travail IA sur les services de plateforme Azure (PaaS) et l’infrastructure Azure (IaaS). Utilisez ces recommandations pour sécuriser les modèles, ressources et données d’IA dans ces types de charges de travail.
Sécuriser les données IA
Sécuriser les données IA implique de protéger les données que les modèles IA utilisent et génèrent. Des pratiques efficaces de sécurité des données aident à prévenir l’accès non autorisé, les fuites de données et les violations de conformité. Contrôler l’accès aux données et maintenir un catalogue détaillé soutiennent également une prise de décision éclairée et réduisent le risque d’exposer des informations sensibles.
Définir et maintenir des limites de données. Assurez-vous que les charges de travail IA utilisent des données adaptées à leur niveau d’accès. Les applications IA accessibles à tous les employés ne doivent traiter que des données adaptées à tous les employés. Les applications IA orientées vers Internet doivent utiliser des données adaptées à une utilisation publique. Utilisez des ensembles de données ou environnements distincts pour différentes applications IA afin de prévenir un accès involontaire aux données. Envisagez d’utiliser la suite d’outils de sécurité des données de Microsoft Purview pour sécuriser vos données.
Mettre en œuvre des contrôles d’accès stricts aux données. Assurez-vous que les applications vérifient que les utilisateurs finaux sont autorisés à accéder aux données impliquées dans leurs requêtes. Évitez des permissions système larges pour les actions des utilisateurs. Opérez sous le principe que si l’IA peut accéder à certaines informations, l’utilisateur devrait être autorisé à y accéder directement.
Maintenir un catalogue de données. Conservez un catalogue à jour de toutes les données connectées et consommées par les systèmes IA, y compris les emplacements de stockage et les détails d’accès. Scannez et étiquetez régulièrement les données pour suivre les niveaux de sensibilité et de pertinence, facilitant ainsi l’analyse et l’identification des risques. Envisagez d’utiliser le catalogue de données de Microsoft Purview pour cartographier et gouverner vos données.
Créer un plan de gestion des changements de sensibilité des données. Suivez les niveaux de sensibilité des données, car ils peuvent évoluer avec le temps. Utilisez votre catalogue de données pour surveiller les informations utilisées dans les charges de travail IA. Implémentez un processus pour identifier et retirer les données sensibles des charges de travail IA.
Sécuriser les artefacts IA. Reconnaissez les modèles et ensembles de données IA comme des propriétés intellectuelles précieuses et mettez en place des mesures pour les protéger en conséquence. Stockez les modèles et ensembles de données IA derrière des points de terminaison privés et dans des environnements sécurisés tels qu’Azure Blob Storage et des espaces de travail dédiés. Appliquez des politiques d’accès strictes et le chiffrement pour protéger les artefacts IA contre l’accès non autorisé ou le vol, afin d’éviter l’empoisonnement de données.
Protéger les données sensibles. Lorsque la source de données d’origine n’est pas appropriée pour une utilisation directe, utilisez des duplicatas, des copies locales ou des sous-ensembles contenant uniquement les informations nécessaires. Traitez les données sensibles dans des environnements contrôlés disposant d’une isolation réseau et de contrôles d’accès rigoureux pour éviter les accès non autorisés ou les fuites de données. De plus, mettez en œuvre des mesures de protection complètes, telles que le chiffrement, la surveillance continue et les systèmes de détection d’intrusion pour protéger contre les violations de données pendant le traitement.
Maintenir les contrôles de sécurité
Maintenir les contrôles de sécurité IA inclut la surveillance continue, les tests et la mise à jour des mesures de sécurité pour répondre aux menaces évolutives. Examiner régulièrement les contrôles de sécurité garantit que les charges de travail IA restent protégées et que l’organisation peut s’adapter aux nouveaux risques. La maintenance proactive aide à prévenir les violations et à maintenir la confiance dans les systèmes IA au fil du temps.
Implémenter des tests pour la fuite de données et la coercition dans les systèmes IA. Effectuez des tests rigoureux pour déterminer si des données sensibles peuvent être divulguées ou contraintes par les systèmes IA. Effectuez des tests de prévention des pertes de données (DLP) et simulez des scénarios d’attaque spécifiques à l’IA. Simulez des attaques d’inversion de modèle ou des attaques par exemples contradictoires pour évaluer la résilience des mesures de protection des données. S’assurer que les modèles IA et les processus de traitement des données sont sécurisés contre l’accès non autorisé et la manipulation est essentiel pour maintenir l’intégrité des données et la confiance dans les applications IA.
Fournir une formation et une sensibilisation axées sur l’IA aux employés. Mettez en place des programmes de formation pour tous les employés impliqués dans les projets IA. Insistez sur l’importance de la sécurité des données et des bonnes pratiques spécifiques au développement et au déploiement de l’IA. Formez le personnel sur la manière de manipuler les données sensibles utilisées dans la formation et de reconnaître les menaces comme l’inversion de modèle ou les attaques d’empoisonnement des données. Une formation régulière garantit que les membres de l’équipe sont informés des derniers protocoles de sécurité IA et comprennent leur rôle dans le maintien de l’intégrité des charges de travail IA.
Développer et maintenir un plan de réponse aux incidents de sécurité IA. Élaborez une stratégie de réponse aux incidents spécifiquement adaptée aux systèmes IA pour faire face aux éventuelles violations de données ou incidents de sécurité. Le plan doit inclure des procédures claires pour détecter, signaler et atténuer les incidents de sécurité susceptibles d’affecter les modèles, les données ou l’infrastructure IA. Effectuez régulièrement des exercices et simulations centrés sur des scénarios IA spécifiques pour s’assurer que l’équipe de réponse est préparée à gérer efficacement les incidents de sécurité IA réels.
Effectuer des évaluations périodiques des risques. Évaluez régulièrement les menaces et vulnérabilités émergentes spécifiques à l’IA par des analyses d’impact et des évaluations de risques. Ces évaluations permettent d’identifier les nouveaux risques associés aux modèles IA, processus de traitement des données et environnements de déploiement. Les évaluations mesurent également les effets potentiels des violations de sécurité sur les systèmes IA.
Étapes suivantes
Gouverner, gérer et sécuriser l’IA sont des processus continus que vous devez itérer régulièrement. Révisez chaque stratégie IA, plan IA et IA Prêt selon les besoins. Utilisez les listes de contrôle d’adoption IA pour déterminer votre prochaine étape.