Implantar principios de inteligencia artificial responsable y de confianza
Los seis principios básicos que rigen la inteligencia artificial responsable en Microsoft son equidad, fiabilidad y seguridad, privacidad y seguridad, inclusión, transparencia y responsabilidad. Aplique estos principios para crear una inteligencia artificial responsable y fiable a medida que la vaya integrando en productos y servicios estándar a lo largo del proceso de implantación de la inteligencia artificial.
Principios de la inteligencia artificial responsable
Microsoft se compromete a posibilitar y facilitar la IA responsable.
Los seis principios básicos que definen la inteligencia artificial responsable:
Equidad: los sistemas de inteligencia artificial deben tratar a todos de la misma manera y dar las mismas recomendaciones a todas las personas. La equidad en los sistemas de inteligencia artificial evita la discriminación en función de los rasgos de cada persona.
Fiabilidad y seguridad: los sistemas de inteligencia artificial deben funcionar de forma fiable, segura y coherente en diversas condiciones para infundir confianza.
Privacidad y seguridad: los sistemas de inteligencia artificial deben respetar la privacidad y garantizar la seguridad al proteger la información privada y confidencial. También deben resistir ataques y cualquier intento de dañar o poner en peligro el sistema.
Inclusión: los sistemas de inteligencia artificial deben llegar e involucrar a todos. Los modelos de diseño inclusivos pueden ayudar a los desarrolladores de sistemas de IA a conocer y superar las posibles barreras de exclusión en un producto o servicio. La inclusión fomenta la innovación y permite diseñar experiencias que beneficien a todos.
Transparencia: los sistemas de inteligencia artificial deben ser transparentes y comprensibles. Los sistemas de inteligencia artificial pueden ser la base de decisiones que influyen significativamente en la vida de las personas, por lo que es fundamental que las personas sepan bien cómo el sistema toma estas decisiones.
Responsabilidad: los sistemas de inteligencia artificial y sus desarrolladores deben ser responsables y rendir cuentas.
Integre los principios de la inteligencia artificial responsable a lo largo proceso de implantación de la IA, desde la fase de la estrategia, pasando por la planificación, hasta la implementación. Asegúrese de aplicar estos principios al proteger, administrar y dirigir las iniciativas de inteligencia artificial.
Esta guía de implementación de la IA incluye ejemplos de cómo usar Cloud Adoption Framework para Azure para introducir procedimientos de inteligencia artificial responsable. Los principios de la inteligencia artificial responsable vienen integrados en las guías y recomendaciones a lo largo de este proceso de implantación de la inteligencia artificial.
La importancia de la inteligencia artificial responsable
La inteligencia artificial responsable ayuda a mitigar los siguientes riesgos:
Consecuencias imprevistas: planee y supervise la implementación de la inteligencia artificial responsable para reducir el riesgo de efectos imprevistos con implicaciones éticas.
Amenazas cambiantes: las amenazas nuevas surgen cada cierto tiempo a medida que evoluciona la tecnología de inteligencia artificial. Para reducir estas amenazas y estar al tanto de todas ellas, siga los principios de la inteligencia artificial responsable.
Sesgo: reducir el sesgo en la inteligencia artificial puede ser difícil, pero es necesario para garantizar que los sistemas de inteligencia artificial son justos y no son tendenciosos. Aplique los principios de inteligencia artificial responsable para que le sirvan de ayuda.
Tecnologías de uso de información confidencial: las tecnologías como el reconocimiento facial se pueden considerar tecnologías sensibles debido al riesgo que implica para las libertades fundamentales y los derechos humanos. Tenga en cuenta las implicaciones de estas tecnologías para usarlas de forma responsable.
Facilitación de Azure
Microsoft Azure ofrece una serie de herramientas, servicios y recursos que le ayudarán a crear sistemas de inteligencia artificial responsable.
Usar Seguridad del contenido de Microsoft Azure AI de Microsoft para crear sistemas seguros
Use Seguridad del contenido de Microsoft Azure AI para detectar contenido perjudicial generado por el usuario y por la IA en aplicaciones y servicios. La función Seguridad del contenido le permite analizar el contenido generado en las aplicaciones de inteligencia artificial, como texto e imágenes, para garantizar que es seguro y adecuado para los usuarios. Seguridad del contenido incluye las siguientes funcionalidades:
Prompt Shields analiza el texto y los documentos para detectar posibles amenazas de un ataque por acción del usuario, o jailbreak (modo sin restricciones), en un gran modelo de lenguaje (LLM).
Groundedness detection detecta si las respuestas de texto de un LLM se basan en materiales de origen que facilitan los usuarios.
Detección de material protegido detecta si las respuestas de texto de un LLM incluyen material protegido, como texto protegido, letras de canciones, artículos y contenido web.
La API Custom Categories (rapid) define los patrones de nuevo contenido nocivo y analiza el texto y las imágenes en busca de coincidencias.
La API Analyze Text analiza el contenido de texto potencialmente dañino. Normalmente, identifica categorías como contenido de odio, autolesiones y contenido sexual o violento.
La API Analyze Image analiza el contenido potencialmente perjudicial de imágenes. Normalmente, identifica categorías como contenido de odio, autolesiones y contenido sexual o violento.
Usar la inteligencia artificial responsable en los servicios de Azure AI
Microsoft dispone de una lista de notas sobre transparencia para los servicios de Azure relacionados con la inteligencia artificial. La lista incluye servicios dentro del grupos de servicios de Azure AI. Para obtener más información, consulte Uso responsable de la IA con los servicios de Azure AI.
Uso del panel de IA responsable de Azure Machine Learning
Si crea sistemas con Azure Machine Learning, puede usar el panel de IA responsable para evaluar los sistemas de IA. El panel de IA responsable ofrece una única interfaz que le ayuda a implementar los principios de la IA responsable. Algunas de las funcionalidades de la IA responsable son las siguientes:
Análisis de datos: conozca y explore las distribuciones y estadísticas de los conjuntos de datos.
Descripción general del modelo y evaluación de la equidad: evalúe el rendimiento del modelo y los problemas de equidad del grupo del modelo.
Análisis de errores: consulte y conozca cómo se distribuyen los errores en el conjunto de datos.
Interpretabilidad del modelo: conozca las predicciones del modelo y cómo el modelo realiza predicciones específicas y generales.
Análisis de hipótesis contrastadas: observe cómo los cambios en las funciones pueden afectar a las predicciones del modelo.
Análisis causal: use datos históricos para ver los efectos causales de las funciones de aplicación en los resultados reales.
Desarrollo de la IA responsable
| Resource | Descripción |
|---|---|
| Herramientas útiles para crear entornos eficaces de inteligencia artificial basada en la interacción humana (HAX) | Use el kit de herramientas de HAX al principio del proceso de diseño para conceptualizar lo que hace el sistema de IA y cómo se comporta. Use el kit de herramientas de HAX en productos de inteligencia artificial orientados al usuario. |
| Directrices para la IA conversacional | Diseñe bots de forma que obtenga la confianza de otros para ayudar a las personas y a la sociedad a darse cuenta de su pleno potencial. Use estas instrucciones para crear un bot que genere confianza en la empresa y el servicio que representa. |
| Guía para el diseño de una IA inclusiva | Use esta guía para diseñar una inteligencia artificial que sea inclusiva y accesible para todos los usuarios. |
| Lista de comprobación de la equidad de la inteligencia artificial | Recurra a la lista de comprobación de equidad de IA para determinar si el sistema de IA es justo e imparcial. |
| IA responsable en el aprendizaje automático | Consulte estos recursos sobre IA responsable si usa aprendizaje automático para crear sistemas de IA. |