Preguntas frecuentes para respuestas generativas
Estas preguntas frecuentes (FAQ) describen el efecto de IA de la función de respuestas generativas Copilot Studio.
¿Qué son respuestas generativas?
¿Cuáles son las capacidades de respuestas generativas?
Cuando un usuario le hace una pregunta al agente que no contiene un tema configurado, el agente puede buscar opcionalmente contenido relevante de una fuente de su elección. Esta búsqueda incluye sitios web públicos, SharePoint o sus propias fuentes de datos personalizadas, incluidas imágenes incrustadas en archivos PDF. Agente utiliza IA generativa para resumir esa información en un respuesta que se devuelve al usuario agente.
Nota
A partir de septiembre de 2024, los agentes también podrán razonar sobre elementos que no sean texto en archivos cargados, como imágenes, datos tabulares y diagramas.
¿Cuál es el uso previsto de las respuestas generativas?
Las respuestas generativas se pueden utilizar como fuentes de información primaria en su agente, o como respaldo cuando los temas creados no pueden abordar la consulta de un usuario.
¿Cómo se evaluaron las respuestas generativas y qué métricas se utilizan para medir su rendimiento?
La capacidad se evalúa continuamente en una colección de conjuntos de datos de preguntas y respuestas seleccionados manualmente, que cubren múltiples industrias. La evaluación posterior se realiza sobre conjuntos de datos personalizados para preguntas y respuestas ofensivas y maliciosas, mediante sesiones automatizadas y manuales específicas diseñadas para expandir el conjunto de pruebas.
¿Cuáles son las limitaciones de las respuestas generativas y cómo pueden los usuarios minimizar el impacto de las limitaciones al utilizar respuestas generativas?
Debes habilitar la opción de respuestas generativas para cada agente.
Consulte Idiomas admitidos para obtener la lista de idiomas admitidos por esta función y su respectiva etapa. Es posible que puedas usar otros idiomas, pero las respuestas generadas podrían ser inconsistentes y es posible que agente no responda correctamente o como esperas.
Esta capacidad puede estar sujeta a límites de uso o limitación de capacidad.
Las respuestas generadas por la capacidad de respuestas generativas no siempre son perfectas y pueden contener errores.
El sistema está diseñado para consultar el conocimiento del sitio web de su elección y empaquetar los hallazgos relevantes en una respuesta fácilmente consumible. Sin embargo, es importante tener en cuenta algunas características de la IA que podrían generar respuestas inesperadas:
El corpus sobre el que se entrenó el modelo no incluye datos creados después de 2021.
Existen mitigaciones para evitar que el modelo use su corpus de entrenamiento como origen de las respuestas, sin embargo es posible que las respuestas incluyan contenidos de páginas web distintas a la seleccionada.El sistema no realiza una verificación de precisión, por lo que si el origen de datos seleccionado contiene información inexacta, podría mostrarse a los usuarios de su agente. Implementamos mitigaciones para filtrar respuestas irrelevantes y ofensivas, y la función está diseñada para no responder cuando se detecta lenguaje ofensivo. Estos filtros y mitigaciones no son infalibles.
Nota
Siempre debes probar y revisar tus agentes antes de publicarlos, y considerar recopilar comentarios de los usuarios de agente. Su administrador puede desactivar la capacidad de publicar agentes con respuestas generativas para su inquilino en Power Platform Centro de administración.
¿Qué datos recopila la capacidad? ¿Cómo se usan los datos?
La capacidad recopila indicaciones del usuario, las respuestas devueltas por el sistema y cualquier comentario que proporcione.
Usaremos estos datos para evaluar y mejorar la calidad de la capacidad. Más información sobre qué datos se recopilan está disponible en los términos de vista previa.
¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de respuestas generativas?
Las respuestas generativas funcionan mejor cuando se designa un origen válido y de confianza desde el que se debe consultar el contenido. Esta fuente podría ser el sitio web de su empresa, por ejemplo www.microsoft.com. Se buscarían todas las páginas web que pertenecen a este dominio para encontrar una coincidencia con la pregunta del usuario.
Utilizamos los comentarios que usted proporciona sobre su satisfacción con las respuestas generadas para mejorar la calidad del sistema. Puede proporcionar comentarios seleccionando los iconos de Me gusta o No me gusta para las respuestas generadas. También puedes incluir más comentarios en texto libre.
¿Qué protecciones existen para una IA responsable? Copilot Studio
Las respuestas generativas incluyen varias protecciones para garantizar que los administradores, creadores y usuarios disfruten de una experiencia segura y compatible. Los administradores tienen control total sobre las funciones de su inquilino y siempre pueden desactivar la capacidad de publicar agentes con respuestas generativas en su organización. ... Los creadores pueden agregar instrucciones personalizadas para influir en los tipos de respuestas que devuelven sus agentes. Para obtener más información sobre las mejores prácticas para escribir instrucciones personalizadas, consulte Usar modificación rápida para proporcionar instrucciones personalizadas a su agente.
Los creadores también pueden limitar las fuentes de conocimiento que los agentes pueden usar para responder preguntas. Para permitir que los agentes respondan preguntas fuera del alcance de sus fuentes de conocimiento configuradas, los creadores pueden activar la función Conocimiento general de IA . Para limitar que los agentes respondan preguntas únicamente dentro del alcance de sus fuentes de conocimiento configuradas, los creadores deben desactivar esta función.
Copilot Studio También aplica políticas de moderación de contenido en todas las solicitudes de IA generativa a administradores, creadores y usuarios de proteger contra contenido ofensivo o dañino. Estas políticas de moderación de contenido también se extienden a intentos maliciosos de jailbreak, inyección rápida, exfiltración rápida y violación de derechos de autor. Todo el contenido se verifica dos veces: primero durante la entrada del usuario y nuevamente cuando agente está a punto de responder. Si el sistema encuentra contenido dañino, ofensivo o malicioso, impide que su agente responda.
Por último, es una buena práctica comunicar a los usuarios que agente utiliza inteligencia artificial, por lo tanto, el siguiente mensaje predeterminado informa a los usuarios: "Para que lo sepas, a veces uso IA para responder tus preguntas".