Conception d’un système pour la gouvernance de l’IA
Chaque organisation a ses propres principes fondamentaux, mais au bout du compte et afin d’être réellement efficaces, ces principes devront faire partie d’une stratégie d’IA responsable plus large. Cette stratégie doit englober la façon dont votre organisation donne vie à ces principes, au sein de votre organisation et au-delà.
Nous vous recommandons d’établir un système de gouvernance adapté à la culture, aux principes fondamentaux, au niveau d’engagement avec l’IA et aux caractéristiques propres de votre organisation. Les tâches du panneau doivent inclure la conception de stratégies et de mesures d’IA responsables ; ils sont suivis et s’assurent de la conformité.
Pour aider votre organisation à démarrer, nous vous fournissons une vue d’ensemble de trois approches de gouvernance courantes : embaucher un agent d’éthique en chef, établir un bureau de l’éthique et former un comité d’éthique. La première approche est centralisée et les autres sont décentralisées. Tous ont leurs avantages, mais nous vous recommandons de les combiner dans une approche hybride. Un système de gouvernance qui relève du panneau et qui dispose d’un soutien financier, de ressources humaines et d’autorité est plus susceptible de créer des changements réels au sein d’une organisation.
L’agent d’éthique en chef
Le plus souvent, les organisations choisissent de regrouper leurs initiatives éthiques en nommant un agent d’éthique en chef. Cette option présente l’avantage de la prise de décision centralisée, cette forme de gouvernance permet aux organisations de développer rapidement des stratégies sur l’éthique, tout en s’assurant de la responsabilité de chaque décision. Recruter ce type de poste accessible au public est également un moyen efficace de présenter l’engagement d’une entreprise vis-à-vis de l’IA et d’autres technologies de façon responsable et digne de confiance.
Toutefois, un agent d’éthique en chef seul peut rencontrer des difficultés pour mettre en œuvre des mesures dans une organisation sans le support d’un bureau d’éthique. Cet inconvénient nous conduit à l’option suivante.
Le bureau de l’éthique
La deuxième approche de gouvernance se concentre sur la responsabilisation des employés au sein de l’organisation. Elle implique la formation d’une équipe d’éthique dédiée issue de différents niveaux de l’organisation, qui se concentre uniquement sur le respect des principes éthiques par tous les employés. Le bureau d’éthique peut être indépendant ou faire partie d’une équipe de gestion des risques, de conformité ou juridique plus large. S’il est indépendant, il peut être établi sans rôle de direction. Cependant les entreprises choisissent souvent un agent d’éthique en chef pour diriger le bureau.
Le principal avantage des bureaux d’éthique est leur capacité à mettre en œuvre les stratégies à grande échelle, car ils disposent de membres d’équipe dédiés qui travaillent à tous les niveaux de l’entreprise. Les bureaux de l’éthique se montrent également performants pour l’élaboration d’une culture de l’intégrité au sein d’une organisation.
Le comité d’éthique
La dernière approche réunit un groupe varié d’experts externes et de leaders senior internes à l’organisation pour aborder la question de l’éthique en lien avec l’IA. Les comités d’éthique peuvent même incorporer des groupes d’utilisateurs, des éthiciens ou des psychologues. En règle générale, ils n’ont pas de membres dédiés uniquement à l’éthique.
Cette forme de gouvernance offre aux organisations l’éventualité de personnes ayant des expériences et des expertises très différentes, des opinions impartiales à partir de membres externes et l’adhésion de cadres supérieurs internes à l’entreprise.
Ensuite, examinons les meilleures pratiques pour la gouvernance de l’IA, en fonction de la propriété du modèle IA et du rôle impliqué.