Bases de la evaluación de daños

La creación de modelos de daños es una práctica diseñada para ayudarle a prever la posibilidad de daños, identificar brechas en el producto que podrían suponer un riesgo para las personas y, en última instancia, crear enfoques que aborden de forma proactiva la posibilidad del daño.

Razones para crear modelos de daños

El trabajo de los creadores de tecnología tiene un alcance global. El diseño de inteligencia artificial para que sea de confianza requiere la creación de soluciones que reflejen principios éticos profundamente arraigados en valores que son importantes y atemporales. En el proceso de diseño y compilación de las tecnologías es esencial evaluar no solo los resultados ideales, sino también los posibles efectos negativos.

Tecnología y derechos humanos

Ahora es más importante que nunca tener en cuenta la forma en la que la tecnología digital puede afectar a los derechos humanos. Además de seguir protegiendo la privacidad y la seguridad, tenemos que abordar los riesgos que generan la inteligencia artificial y otras tecnologías emergentes, como el reconocimiento facial. La historia nos enseña que las violaciones de los derechos humanos no se deben solamente al uso malintencionado de la tecnología, sino también a una falta de conocimiento por parte de gente que tienen buenas intenciones. Como parte de la dedicación de nuestra empresa a la protección de los derechos humanos, Microsoft ha establecido una asociación con importantes partes interesadas en el tema fuera de nuestro sector, incluidas las Naciones Unidas (ONU).

Un conjunto importante de principios de la ONU que nuestra empresa respalda firmemente, y que ha sido ratificado por más de 250 naciones, es la Declaración Universal de los Derechos Humanos (DUDH). La DUDH es un hito. Elaborado por un grupo global y diverso de expertos culturales y legales, la Declaración fue proclamada por la Asamblea General de las Naciones Unidas en 1948 como un estándar común de logros para todas las personas y todas las naciones. Establece, por primera vez, los derechos humanos fundamentales que deben estar protegidos universalmente. Se ha traducido a más de 500 idiomas. Además, Microsoft es una de las 4.700 empresas signatarias del Pacto Global (UN Global Compact), una iniciativa internacional corporativa diseñada para promover la responsabilidad social empresarial en el mundo.

Descargar un archivo de Microsoft Word de esta tabla

Conocimiento humano

Además de valorar la importancia de los derechos humanos, la creación de sistemas de confianza requiere tener en cuenta la perspectiva de muchas personas. Preguntar quiénes son las partes involucradas, qué es lo que valoran, cómo podrían beneficiarse y cómo podrían salir perjudicadas por nuestra tecnología, es un paso eficaz que nos permite diseñar y crear mejores productos.

¿A quién afecta la tecnología?

¿Quiénes son los clientes?

• ¿Qué es lo que valoran?
• ¿Cómo deben beneficiarse?
• ¿Cómo podría perjudicarles la tecnología?

¿Quiénes son las partes involucradas fuera del cliente?

• ¿Qué es lo que valoran?
• ¿Cómo deben beneficiarse?
• ¿Cómo podría perjudicarles la tecnología?

Formular estas preguntas es una práctica en el diseño ético y es el principio para comprender mejor lo que es importante para todas las partes involucradas, y cómo funciona en su relación con el producto.

Tipos de partes involucradas

Patrocinadores del proyecto

Los promotores, responsables de la toma de decisiones y propietarios constituyen esta categoría. Sus valores se articulan en la estrategia y los objetivos del proyecto.

Generadores de tecnología

Este grupo lo forman diseñadores, desarrolladores, jefes de proyecto y aquellos que trabajan directamente en el diseño de sistemas. Proporcionan sus propias normas éticas y los valores específicos de su profesión al sistema.

Las partes involucradas directas e indirectas

Estas personas se ven afectadas de forma significativa por el sistema. Entre las partes afectadas se incluyen usuarios finales, personal de software, clientes, testigos, instituciones interconectadas e incluso a generaciones anteriores o futuras. En esta categoría también se pueden incluir factores no humanos como lugares, por ejemplo, edificios históricos o espacios sagrados.

Poblaciones marginales

Esta categoría se compone de la población que se considera a menudo minoritaria, vulnerable o estigmatizada. Esta categoría incluye a niños, ancianos, miembros de la comunidad LGBTQ +, minorías étnicas y otros sectores de la población que con frecuencia experimentan consecuencias únicas y desproporcionadas.

Evaluación de daños

Una vez que haya definido el propósito de la tecnología, los casos de uso y las partes involucradas, realice un ejercicio de creación de modelos de daños para evaluar las posibles formas en las que el uso de una tecnología que esté creando podría dar lugar a resultados negativos para las personas y la sociedad.

Descargar un archivo de Microsoft Word de este diagrama.

El diagrama anterior es un ejemplo de una evaluación de daños. Este modelo es un enfoque cualitativo que se usa para conocer la magnitud potencial del daño.

Puede completar esta actividad de concepción de forma individual, pero lo ideal es que se lleve a cabo como una tarea de colaboración entre desarrolladores, científicos de datos, diseñadores, investigadores de usuarios, responsables de la toma de decisiones empresariales y otras disciplinas que intervienen en la creación de la tecnología.

Sugerencias para las instrucciones de descripción de daños:

• Uso previsto: si [característica] se usó para [caso de uso], [parte involucrada] podría experimentar [descripción de daños].
• Uso no previsto: si [usuario] intentó usar [característica] para [caso de uso], [parte involucrada] podría experimentar [descripción de daños].
• Error del sistema: si [característica] no funcionó correctamente cuando se usa para [caso de uso], [parte involucrada] podría experimentar [descripción de daños].
• Uso incorrecto: [actor malintencionado] podría usar potencialmente [característica] para producir [descripción de daños] en [parte involucrada].

Use las categorías, las preguntas y los ejemplos descritos en los Tipos de daño para generar ideas específicas sobre cómo podría producirse un daño. En el artículo se enumeran las categorías de daños que se basan en áreas de impacto negativo comunes. Adapte y adopte categorías adicionales que sean apropiados en su caso.

Pasos siguientes

Lea Tipos de daño para conocer en más detalle el análisis de daños.