Diseño de un sistema para la gobernanza de IA
Cada organización tiene sus propios principios rectores, aunque, en última instancia, estos principios deben formar parte de una estrategia de IA responsable más amplia para ser eficaces. Esta estrategia debe englobar cómo se aplican estos principios tanto dentro de la organización como fuera.
Se recomienda establecer un sistema de gobernanza adaptado a las características, cultura, principios rectores y nivel de compromiso de su organización con la IA. Entre las responsabilidades del consejo de administración, se incluye crear medidas y directivas de IA responsable, comprobar que se sigan y garantizar el cumplimiento.
Para ayudar a su organización a poner en marcha el proceso, ofrecemos un resumen de tres enfoques comunes de gobernanza: contratación de un director de ética, establecimiento de una oficina de ética y creación de un comité ético. El primer enfoque está centralizado y los otros no. Todos tienen ventajas, pero se recomienda integrarlos en un enfoque mixto. Un sistema de gobernanza que informe al consejo de administración y tenga apoyo financiero, de recursos humanos y autoridad es más probable que haga cambios reales en una organización.
Director de ética
A menudo, las organizaciones prefieren consolidar sus iniciativas éticas bajo el mando de un director de ética. Esta opción tiene como ventaja la toma de decisiones centralizada, por lo que permite a las organizaciones desarrollar rápidamente directivas sobre ética y, al mismo tiempo, garantiza la responsabilidad asociada a cada decisión. La contratación de este puesto de cara al público también puede ser una buena manera de mostrar el compromiso de una empresa por adoptar la IA y otra tecnología de una forma responsable y confiable.
Sin embargo, un director de ética por sí solo puede tener dificultades para aplicar medidas en toda la organización sin el apoyo de una oficina de ética. Este inconveniente nos lleva a la siguiente opción.
Oficina ética
El segundo enfoque de gobernanza se centra en la capacitación de los empleados de la organización. Consiste en formar un equipo ético dedicado de distintos niveles de la organización centrado exclusivamente en garantizar que todos los empleados cumplan los principios éticos. La oficina de ética puede ser independiente o formar parte de un equipo de riesgo, cumplimiento o legal más amplio. Si la oficina ética es independiente, se puede crear sin una figura principal, aunque las empresas suelen elegir a un director de ética para que dirija la oficina.
La principal ventaja de las oficinas de ética es su capacidad de implementar las directivas a escala, ya que tienen miembros del equipo dedicados que trabajan en todos los niveles de la empresa. Las oficinas éticas también se demuestran útiles para generar una cultura de integridad en una organización.
Comité ético
El último enfoque reúne a una serie de expertos externos y líderes senior de la organización para gestionar la ética de la inteligencia artificial. Los comités éticos pueden incluso incorporar grupos de usuarios, eticistas o psicólogos. Por lo general, no hay miembros dedicados en exclusiva a la ética.
Esta forma de gobernanza ofrece a una organización perspectivas de individuos con diferente formación y experiencia, opiniones imparciales de miembros externos y respaldo de los responsables sénior de la empresa.
A continuación, vamos a analizar los procedimientos recomendados para la gobernanza de IA, en función de la propiedad del modelo de IA y del rol involucrado.