Comprendre ce qu’est l’IA responsable
En tant que scientifique des données, vous pouvez entraîner un modèle Machine Learning pour prédire si quelqu’un est en mesure de rembourser un prêt ou si un candidat peut correspondre à un poste vacant. Comme les modèles sont souvent utilisés pour prendre des décisions, il est important qu’ils soient impartiaux et transparents.
Quelle que soit la raison pour laquelle vous utilisez un modèle, vous devez prendre en considération les principes de l’intelligence artificielle responsable (IA responsable). Selon le cas d’usage, vous vous focaliserez peut-être sur des principes spécifiques. Néanmoins, il est recommandé de prendre en compte tous les principes pour vous assurer que vous traitez tous les problèmes que le modèle peut présenter.
Microsoft a dressé une liste de cinq principes d’IA responsable :
- Équité et inclusivité : Les modèles doivent traiter tout le monde équitablement et éviter d’adopter un traitement différent pour des groupes similaires.
- Fiabilité et sécurité : Les modèles doivent être fiables, sûrs et cohérents. Vous voulez qu’un modèle fonctionne comme prévu, qu’il gère bien les situations inattendues et qu’il résiste aux manipulations néfastes.
- Confidentialité et sécurité : Soyez transparent sur la collecte, l’utilisation et le stockage des données afin de permettre aux individus d’avoir le contrôle sur leurs données. Traitez les données avec précaution pour garantir la confidentialité des individus.
- Transparence : Lorsque les modèles influencent des décisions importantes qui affectent la vie de tous, chacun doit comprendre comment ces décisions ont été prises et comment le modèle fonctionne.
- Responsabilité : Assumez la responsabilité des décisions que les modèles peuvent influencer et maintenez un contrôle humain.
Conseil
Découvrez Responsible AI Standard pour créer des systèmes d’IA répondant à ces six principes clés.