Desafíos y riesgos con la inteligencia artificial
La Inteligencia artificial es una herramienta poderosa que se puede usar para beneficiar enormemente al mundo. Pero como cualquier herramienta, se debe utilizar de manera responsable.
En la tabla siguiente se muestran algunos de los posibles desafíos y riesgos a los que se enfrenta un desarrollador de aplicaciones de inteligencia artificial.
| Desafío o riesgo | Ejemplo |
|---|---|
| El sesgo puede afectar a los resultados. | Un modelo de aprobación de préstamos discrimina por sexo debido a un sesgo en los datos con los que se entrenó. |
| Los errores pueden causar daños. | Un vehículo autónomo experimenta un error del sistema y provoca una colisión. |
| Se podrían exponer datos. | Un bot de diagnóstico médico se entrena con datos confidenciales de pacientes, que se almacenan de forma insegura. |
| Es posible que las soluciones no funcionen para todos los usuarios. | Un asistente de automatización del hogar no proporciona ninguna salida de audio para usuarios con discapacidades visuales. |
| Los usuarios deben confiar en un sistema complejo. | Una herramienta financiera basada en inteligencia artificial realiza recomendaciones de inversión: ¿en qué se basan? |
| ¿Quién es responsable de las decisiones basadas en la inteligencia artificial? | Se condena a una persona inocente de un crimen basándose en las evidencias del reconocimiento facial: ¿quién es responsable? |