Inteligencia artificial responsable en Microsoft
Puede ser difícil diseñar e implementar un sistema eficaz de gobernanza de inteligencia artificial. En esta unidad, tomamos Microsoft como ejemplo y explicamos cómo Microsoft garantiza que se hace un uso responsable de la inteligencia artificial en toda la empresa. En función de este caso de uso, considere cómo podría aplicar estas ideas en su propia organización.
En el vídeo siguiente, Natasha Crampton, vicepresidente y directora de inteligencia artificial responsable de Microsoft, proporciona una introducción sobre cómo Microsoft aplica los procedimientos de inteligencia artificial responsable.
Nuestra estructura de gobernanza usa un modelo de concentrador y radio para proporcionar la responsabilidad y la autoridad para impulsar iniciativas, al tiempo que permite la implementación a escala de directivas de IA. Es decir, combina los enfoques centralizados y descentralizados descritos en la última unidad.
Gobernanza centralizada
Hay tres organismos en Microsoft para proporcionar gobernanza centralizada: el Equipo de responsables sénior, la Oficina de inteligencia artificial responsable y el Comité Aether. Una característica importante de nuestro enfoque sobre inteligencia artificial responsable es que este ecosistema sirva para hacer operativa la inteligencia artificial responsable en toda la empresa, y no en una sola organización o un individuo que lidere este trabajo.
Equipo de responsables sénior
El Equipo de responsables sénior es responsable en última instancia de la dirección de la empresa con respecto a la IA responsable. Este grupo es el responsable final de la toma de decisiones sobre los aspectos de desarrollo e implementación de IA más delicados, novedosos y significativos. Establece los principios, los valores y los compromisos de derechos humanos sobre inteligencia artificial de la empresa.
Oficina de IA responsable
La Oficina de inteligencia artificial responsable implementa y mantiene nuestro compromiso con la gobernanza de la inteligencia artificial responsable trabajando con las partes interesadas de toda la empresa para realizar las siguientes acciones:
- Desarrollar y mantener nuestro marco de gobernanza.
- Definir roles y responsabilidades para los órganos rectores.
- Implementar un proceso de toma de decisiones e informes de toda la empresa.
- Organizar la formación responsable de inteligencia artificial para todos los empleados.
Office of Responsible AI tiene cuatro funciones clave:
- Directiva interna: establecer las reglas en toda la empresa para la creación de IA responsable, así como definir roles y responsabilidades para los equipos implicados en este trabajo.
- Habilitación: preparación para adoptar procedimientos de inteligencia artificial responsable, dentro de la empresa y entre nuestros clientes y asociados.
- Administración de casos: revisión de casos de uso delicados para asegurarse de que nuestro trabajo de desarrollo e implementación respete los principios de IA.
- Política pública: ayuda a dar forma a nuevas leyes, normas y estándares. El objetivo de esta política es asegurarse de que la promesa de la tecnología de inteligencia artificial se realice en beneficio de la sociedad en general.
Comité Aether
El Comité Aether (IA, Ética y Efectos en Ingeniería e Investigación) es un rol de asesoramiento para la dirección sénior, la Oficina de IA responsable y otros equipos de toda la empresa. Proporciona instrucciones sobre preguntas, desafíos y oportunidades con el desarrollo y el campo de las tecnologías de inteligencia artificial.
El comité Aether tiene seis grupos de trabajo que se centran en temas específicos, basados en nuestros principios de inteligencia artificial. Los grupos de trabajo desarrollan herramientas, procedimientos recomendados e instrucciones de implementación adaptadas relacionadas con sus respectivos ámbitos de especialización. Los aprendizajes de los grupos de trabajo y el comité principal son fundamentales para desarrollar nuevas políticas y rechazar o poner límites en casos de uso confidenciales.
Gobernanza descentralizada
El establecimiento de la inteligencia artificial responsable a escala en una organización se basa en una red segura en toda la empresa para ayudar a implementar reglas para toda la organización, impulsar la concienciación y solicitar asistencia para los problemas que plantean preguntas sobre la aplicación de nuestros principios de inteligencia artificial.
Campeones de IA responsables
Nuestra red incluye Expertos en IA responsable, empleados nombrados por sus equipos de liderazgo de equipos clave de ingeniería y de campo. Sirven como asesores de inteligencia artificial responsables (además de sus roles a tiempo completo), centrándose en informar a los responsables de la toma de decisiones, en lugar de en elaborar políticas.
Los asesores Responsible AI Champs tienen cinco funciones clave:
- Concienciar sobre los principios y prácticas de inteligencia artificial responsable a equipos y grupos de trabajo.
- Ayudar a los equipos y grupos de trabajo a implementar procedimientos recomendados a lo largo del ciclo de vida de las características, productos o servicios de IA.
- Asesorar a los ejecutivos sobre el beneficio del desarrollo de la inteligencia artificial responsable, y el posible efecto de los daños imprevistos.
- Identificar y escalar preguntas y usos delicados de la inteligencia artificial a través de los canales disponibles.
- Fomentar una cultura de perspectiva global y centrada en los clientes, mediante la expansión de una comunidad de expertos en inteligencia artificial responsable en sus organizaciones y más allá.
Para desarrollar e implementar la IA con una fricción mínima para los clientes y los procedimientos de ingeniería, invertimos en patrones, procedimientos y herramientas. Algunos grupos de ingeniería tienen equipos para ayudarles a seguir las reglas de toda la empresa y acelerar el desarrollo de patrones, procedimientos y herramientas de implementación.
Todos los empleados
La parte final y más importante de nuestro enfoque sobre inteligencia artificial responsable es el rol que desempeñan todos los empleados con la ayuda de sus directores y líderes empresariales. La inteligencia artificial responsable es una parte fundamental del aprendizaje obligatorio de los empleados y hemos publicado más recursos educativos que les permiten profundizar en áreas de esta materia. También contamos con numerosas herramientas de desarrollo de inteligencia artificial responsable que permiten a nuestros empleados desarrollar de manera responsable. Estos recursos hacen que todos nuestros empleados avancen en el importante trabajo de la empresa con la inteligencia artificial y, al mismo tiempo, se encargan de mantener los principios de inteligencia artificial responsable y de seguir los procedimientos de la empresa que hemos adoptado para lograrlo.
Esperamos que todos los empleados de Microsoft:
- Desarrollar un entendimiento general de nuestros principios de inteligencia artificial.
- Notificar y escalar usos delicados.
- Se pongan en contacto con su asesor Responsible AI Champ cuando necesiten instrucciones sobre la inteligencia artificial responsable.
Sugerencia
Dedique un momento a identificar los desafíos para establecer un sistema de gobernanza de inteligencia artificial responsable en su organización.
A continuación, veamos nuestro modelo de gobernanza en acción para marcar y abordar casos de uso delicados de inteligencia artificial.