Aplicación de sistemas para la gobernanza de la inteligencia artificial
Independientemente del enfoque de gobernanza que elija, hay algunos procedimientos recomendados que debe promover.
| Formas de tomar medidas para la gobernanza de la inteligencia artificial | Descripción |
|---|---|
Hacer que los recursos estén disponibles  |
Los empleados necesitan una guía para conocer los principios de la IA responsable e incorporarlos a su trabajo. Un manual o una sesión de entrenamiento pueden cumplir esa tarea. |
Creación de un inventario de IA centralizado |
Tener una lista de todos los modelos y sistemas de inteligencia artificial que funcionan en su organización es clave para clasificar los esfuerzos en orden de prioridad y optimizar los recursos. Además, también resulta útil facilitar las auditorías y las pruebas de cumplimiento. |
Desarrollo de herramientas |
Comprobar el cumplimiento en cada sistema de IA de su organización puede resultar agotador. Considere la posibilidad de crear herramientas para automatizar esta tarea: estas herramientas supervisarían y validarían los sistemas y generarían una marca si algo cambia fuera de las métricas de rendimiento. |
Involucración en la gobernanza de la inteligencia artificial
Los procesos y directivas específicos de su sistema de gobernanza de la IA dependen de si su empresa usa sistemas de terceros o desarrolla la IA internamente. Según este factor, se proporcionan recomendaciones para ayudar a la empresa a regir sus compromisos de inteligencia artificial.
Involucración con desarrolladores de sistemas de inteligencia artificial
Para sistemas de inteligencia artificial de primera entidad, si su organización también planea desarrollar soluciones de inteligencia artificial o integrar la inteligencia artificial en los productos y servicios existentes, hay algunas tareas para cada rol del equipo.
Su sistema de gobernanza ética debe:
Revisar o proporcionar asesoramiento antes del lanzamiento de cualquier nuevo sistema de inteligencia artificial, especialmente para casos de uso delicados.
Asegurarse de que los empleados de todos los niveles de la empresa se sientan libres de expresar sus preocupaciones éticas antes de vender productos y servicios de IA o integrados en ella.
Analizar el caso y proporcionar una guía para mitigar los riesgos si surgen problemas al diseñar, desarrollar o vender el sistema de inteligencia artificial.
Crear procesos para supervisar los sistemas de inteligencia artificial que implementa o vende a fin de detectar y mitigar la desviación y el deterioro del modelo con el tiempo.
Los desarrolladores deben:
Recibir una guía estándar detallada y minuciosa que pueda ayudarles a diseñar y desarrollar soluciones de IA que reflejen los principios éticos de su organización.
Contar con directrices y listas de comprobación para tecnologías de inteligencia artificial específicas, como el reconocimiento facial o la inteligencia artificial generativa.
Para las organizaciones que planean usar sistemas de inteligencia artificial de terceros de serie, se recomienda aprender sobre el compromiso de dichos terceros con el diseño de IA responsable para asegurarse de que se alinea con sus propios principios.
En el caso de las soluciones de inteligencia artificial personalizadas, incluya sus principios o estándares en la solicitud de propuesta. Antes de implementar una solución de inteligencia artificial de terceros, cree directrices sobre cómo usar y supervisar el sistema de forma segura. Entrene a los empleados en estas directrices y asegúrese de que se siguen. Por último, el sistema de gobernanza debe garantizar que el sistema de inteligencia artificial se ha probado rigurosamente.
Interacción con las partes interesadas externas
A medida que el uso de la inteligencia artificial se hace más habitual, creemos que el manejo responsable de la inteligencia artificial es una responsabilidad compartida por el sector público y privado. La colaboración entre empresas, organizaciones públicas, gobiernos y organizaciones sin ánimo de lucro es fundamental para garantizar unas buenas prácticas, al tiempo que maximiza el potencial de la inteligencia artificial de proporcionar amplios beneficios.
Las organizaciones pueden contribuir a estos esfuerzos colectivos de varias maneras. En Microsoft nos hemos centrado en participar en iniciativas del sector, en influir en la normativa, en afrontar las necesidades futuras de la mano de obra y el lugar de trabajo, y en considerar cómo se pueden usar nuestras tecnologías para mejorar la vida de las personas de todo el mundo. Por ejemplo, nos hemos unido a Partnership on AI (PAI), un grupo de investigadores, organizaciones sin ánimo de lucro, organizaciones no gubernamentales (ONG) y empresas dedicado a garantizar que la inteligencia artificial se desarrolle y emplee de manera responsable.
A continuación, vamos a descubrir cómo funciona un sistema de gobernanza de inteligencia artificial en una empresa real usando Microsoft como ejemplo.