Preguntas frecuentes sobre uso de orquestación generativa
Estas preguntas frecuentes (P+F) describen el impacto de la IA de la orquestación generativa para agentes personalizados integrados en Copilot Studio.
¿Qué es la orquestación generativa?
La orquestación generativa permite que su agente personalizado responda a las consultas de los usuarios con temas y/o acciones relevantes. La orquestación generativa permite conversaciones más naturales al completar las entradas con detalles del historial de la conversación. Por ejemplo, si pregunta por la tienda más cercana en Kirkland y luego pregunta por el tiempo allí, la orquestación infiere que desea preguntar por el clima en Kirkland. El sistema también puede encadenar varias acciones o temas. Por ejemplo, puede responder "Necesito obtener los horarios de atención y encontrar la tienda más cercana". Cuando el agente no está seguro de los detalles, puede hacer preguntas de seguimiento para aclarar la situación.
¿Qué puede hacer la orquestación generativa?
Con la orquestación generativa, el sistema crea primero un plan para responder a la consulta del usuario utilizando el nombre, la descripción, las entradas y las salidas de los temas y acciones disponibles. También hace referencia a los últimos 10 turnos del historial de conversación. Luego intenta ejecutar el plan completando los datos requeridos en la conversación y haciendo un seguimiento con el usuario para detectar cualquier detalle faltante o ambiguo. El sistema verifica que encontró una respuesta a la pregunta del usuario antes de responderle. En caso contrario, vuelve a pasar por el proceso. Finalmente, el sistema genera un respuesta basado en la salida del plan de los temas y/o acciones. También utiliza instrucciones personalizadas para el agente al generar la respuesta final.
¿Cuáles son los usos previstos de la orquestación generativa?
Puede usar este modo dentro de su agente para crear un agente que pueda responder a las consultas de los usuarios en función del historial de conversaciones, los nombres y las descripciones de los temas, y los nombres, las descripciones, las entradas y las salidas de las acciones.
¿Cómo se evalúa la orquestación generativa? ¿Qué métricas se utilizan para medir el rendimiento?
La orquestación generativa se evalúa en cuanto a calidad de extremo a extremo en cada paso del proceso. La calidad se mide en términos de qué tan bien el sistema crea y ejecuta un plan que aborda con éxito la consulta del usuario. Nuestro equipo etiqueta manualmente las puntuaciones de calidad durante el ajuste. Evaluamos la calidad a través de varias consultas, mensajes y acciones de los usuarios. También evaluamos qué tan bien el sistema ignora contenido malicioso de usuarios y autores, y qué tan bien el sistema evita producir contenido dañino.
¿Cuáles son las limitaciones de la orquestación generativa? ¿Cómo pueden los usuarios minimizar el impacto de las limitaciones de orquestación generativa para proyecto al utilizar el sistema?
Para obtener mejores resultados, asegúrese de que sus temas y acciones incluyan descripciones de alta calidad. Proporcionamos orientación sobre cómo escribir descripciones de alta calidad en la documentación de Copilot Studio.
¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de la orquestación generativa?
Actualmente, la orquestación generativa está disponible solo en inglés. Una vez que habilite el modo generativo dentro de su agente, puede probar el sistema para ver qué tan bien funciona usando el panel de prueba. También puede agregar instrucciones personalizadas para su agente para ayudar a generar la respuesta final.
¿Qué son las acciones y cómo las utiliza su agente, con el modo generativo habilitado?
Puede agregar acciones a su agente personalizado para responder a las consultas de los usuarios. Puede utilizar acciones desarrolladas por Microsoft o terceros, o puede crear sus propias acciones. Usted configura las acciones que se van a configurar para el agente personalizado que se va a usar. También puede editar el nombre, la descripción, las entradas y las salidas utilizadas por el sistema.
¿Qué datos pueden aportar las acciones de Copilot Studio? ¿Qué permisos tienen las acciones de Copilot Studio?
Cuando el agente llama a una acción, la acción recibe los valores de entrada especificados por la acción. Los valores de entrada pueden incluir parte del historial de conversaciones con el usuario.
¿Qué tipos de problemas pueden surgir al utilizar Copilot Studio habilitado con acciones?
Es posible que las acciones no siempre funcionen según lo previsto. Pueden producirse errores al preparar la entrada para la acción o al generar una respuesta basada en el resultado de la acción. Su agente también podría llamar a la acción incorrecta para la consulta del usuario. Para mitigar el riesgo de que se produzcan tales errores al utilizar acciones, asegúrese de que dispone de descripciones de alta calidad, pertinentes e inequívocas configuradas para las acciones de su agente personalizado.
¿Qué protecciones tiene Copilot Studio implementadas para la IA responsable?
Hay muchas características de mitigación para proteger a sus agentes. Puede configurar su agente con un conjunto de conocimientos, acciones y temas. Los agentes nunca realizan una acción que no forme parte de su configuración. Los administradores pueden no permitir acciones para los agentes de su organización. Si le preocupa que una acción se desencadene sin confirmación, puede configurar una acción para que solo se llame cuando un usuario acepte llamarla.
Además, tenemos clasificadores que analizan la entrada al sistema para detectar contenido dañino y ataques de jailbreak. Según nuestras pruebas, estos clasificadores tienen una alta tasa de éxito en el bloqueo de contenido perjudicial y ataques de jailbreaking, y también son altamente exitosos en no bloquear contenido que no es perjudicial o un ataque de jailbreaking. Sin embargo, los clasificadores no pueden ser perfectos, por lo que existen riesgos de que un agente produzca contenido dañino o responda a un ataque de jailbreak. Estos riesgos incluyen ataques de inyección de mensajes entre dominios, en los que se pueden agregar instrucciones a la salida de una acción o una fuente de conocimiento que el agente intenta seguir.
Por último, se recomienda comunicar a los usuarios que el agente utiliza inteligencia artificial, por lo que el siguiente mensaje predeterminado informa a los usuarios: "Solo para que lo tenga en cuenta, a veces utilizo IA para responder a sus preguntas".