Seguimiento mediante Application Insights
Determinar el razonamiento detrás de las ejecuciones del agente es importante para solucionar problemas y depurar. Sin embargo, puede ser difícil para los agentes complejos por varias razones:
- Podría haber un gran número de pasos implicados en la generación de una respuesta, lo que dificulta el seguimiento de todos ellos.
- La secuencia de pasos puede variar en función de la entrada del usuario.
- Las entradas y salidas en cada fase pueden ser largas y merecen una inspección más detallada.
- Cada paso del entorno de ejecución de un agente también puede implicar el anidamiento. Por ejemplo, un agente podría invocar una herramienta, que usa otro proceso, que luego invoca otra herramienta. Si observa una salida extraña o incorrecta de una ejecución de agente de nivel superior, puede ser difícil determinar exactamente dónde se introdujo el problema en la ejecución.
El seguimiento lo resuelve al permitirle ver claramente las entradas y salidas de cada primitivo implicado en una ejecución de agente determinada, en el orden en que se invoca.
Creación de recursos de Application Insights
El seguimiento le permite analizar el rendimiento y el comportamiento del agente mediante OpenTelemetry y agregar un recurso de Application Insights al proyecto de Azure AI Foundry.
Para agregar un recurso de Application Insights, vaya a la pestaña Seguimiento en el portal de Azure AI Foundry y cree un nuevo recurso si aún no tiene ninguno.
Una vez creado, puede obtener una cadena de conexión de Application Insights, configurar los agentes y observar la ruta de acceso de ejecución completa del agente a través de Azure Monitor. Normalmente, quiere habilitar el seguimiento antes de crear un agente.
Seguimiento de un agente
En primer lugar, use pip install para instalar OpenTelemetry y el complemento de seguimiento del SDK de Azure.
pip install opentelemetry
pip install azure-core-tracing-opentelemetry
También necesitará un exportador para enviar resultados al back-end de observabilidad. Puede imprimir seguimientos en la consola o usar un visor local como Aspire Dashboard. Para conectarse a Aspire Dashboard u otro back-end compatible con OpenTelemetry, instale el exportador de OpenTelemetry Protocol (OTLP).
pip install opentelemetry-exporter-otlp
Una vez instalados los paquetes, puede usar uno de los siguientes ejemplos de Python para implementar el seguimiento con los agentes. Los ejemplos que usan el seguimiento de la consola muestran los resultados localmente en la consola. Los ejemplos que usan Azure Monitor envían los seguimientos a Azure Monitor en el portal de Azure AI Foundry, en la pestaña Seguimiento del menú de navegación izquierdo del portal.
Nota:
Hay un error conocido en la funcionalidad de seguimiento del agente. El error hará que la herramienta de función del agente llame a información relacionada (nombres de función y valores de parámetro, que podrían contener información confidencial) para que se incluya en los seguimientos incluso cuando no está habilitada la grabación de contenido.
Uso de Azure Monitor
- Ejemplo de agente básico
- Ejemplo del agente con llamadas a funciones
- Ejemplo con un controlador de eventos de secuencia
Uso del seguimiento de la consola