Diseño y evaluación de soluciones de inteligencia artificial accesibles
Aunque la inteligencia artificial generativa puede mejorar considerablemente la productividad de las personas con discapacidades, puede suponer los siguientes desafíos y riesgos para la accesibilidad si no se crea de forma responsable:
- Sesgos: Son las suposiciones o preferencias injustas o inexactas que afectan a los datos, algoritmos o resultados de la IA generativa. Un ejemplo de sesgo es la falta de representación o diversidad de personas con discapacidades en los conjuntos de datos o modelos que se usan para la IA generativa. Esta situación puede producir salidas inexactas, inapropiadas o perjudiciales.
- Capacitismo: Es la discriminación u opresión a las personas con discapacidad basándose en la suposición de que son inferiores o menos capaces que otros. Un ejemplo de capacitismo es la exclusión o marginación de personas con discapacidades en el diseño, el desarrollo o la evaluación de la IA generativa para la accesibilidad. Esta exclusión impide que las personas con discapacidad tengan voz o voto en las soluciones que les afecten.
Es importante tener en cuenta las implicaciones éticas y sociales de la inteligencia artificial generativa para la accesibilidad e implicar a las personas con discapacidades como cocreadores y partes interesadas en el proceso. De este modo, la IA generativa puede convertirse en una herramienta eficaz para capacitar y facultar a las personas con discapacidades, en lugar de ser una fuente de daño o discriminación.
Principios de diseño inclusivo para soluciones de inteligencia artificial
El diseño de soluciones de inteligencia artificial accesibles requiere comprender las necesidades y contextos específicos del usuario y aplicar los principios del diseño inclusivo.
Las pruebas y la evaluación del usuario son esenciales para garantizar que las soluciones de IA inclusivas y accesibles cumplan las expectativas y los requisitos del usuario y no produzcan consecuencias ni daños imprevistos. Las pruebas y la evaluación por parte de los usuarios deben implicar una muestra diversa y representativa de usuarios que puedan proporcionar comentarios sobre la facilidad de uso, la utilidad y la conveniencia de la solución.
Los desarrolladores pueden realizar pruebas y evaluaciones de usuarios a través de varios métodos, en función de las preguntas y objetivos de investigación. Los métodos pueden incluir entrevistas, encuestas, observaciones o experimentos.
Las pruebas de usuario y los resultados de la evaluación deben informar sobre la mejora y el refinamiento de la solución.