Поделиться через

Визуализация трассировок

  • Статья

Внимание

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

После инструментирования приложения для регистрации трассировок давайте рассмотрим, как просмотреть трассировки в локальных и облачных решениях для отладки приложения.

Просмотр трассировок для локальной отладки

Чтобы включить трассировку локально, у вас есть два варианта:

  1. С помощью запроса можно отслеживать приложение с помощью пакета SDK для вывода искусственного интеллекта Azure, который обеспечивает улучшенную видимость и упрощенное устранение неполадок для приложений на основе LLM. Этот метод следует спецификации OpenTelemetry, захвату и визуализации внутренних сведений о выполнении любого приложения ИИ, тем самым повышая общий опыт разработки. Дополнительные сведения см. в статье "Запрос на отладку".
  2. Панель мониторинга Aspire: бесплатная панель мониторинга OpenTelemetry с открытым исходным кодом для получения глубокой информации о приложениях на локальном компьютере разработки. Дополнительные сведения см. в разделе "Панель мониторинга", чтобы узнать больше.

Просмотр трассировок на портале Azure AI Foundry

Прежде чем войти на портал Azure AI Foundry, подключите ресурс Application Insights к проекту.

  1. Перейдите к проекту на портале Azure AI Foundry.
  2. Выберите страницу трассировки слева.
  3. Нажмите кнопку "Создать" , чтобы присоединить новый ресурс Application Insights к проекту.
  4. Укажите имя и нажмите кнопку Создать.

Анимация отслеживания и создания ресурса Application Insights.

Затем установите opentelemetry пакет SDK:

%pip install azure-monitor-opentelemetry

Теперь включите трассировку с выходными данными в консоль:

import os
from azure.monitor.opentelemetry import configure_azure_monitor

os.environ['AZURE_TRACING_GEN_AI_CONTENT_RECORDING_ENABLED'] = 'true'
# Enable Azure Monitor tracing
application_insights_connection_string = project.telemetry.get_connection_string()
if not application_insights_connection_string:
    print("Application Insights was not enabled for this project.")
    print("Enable it via the 'Tracing' tab in your AI Foundry project page.")
    exit()
    
configure_azure_monitor(connection_string=application_insights_connection_string)

Наконец, выполните вызов вывода. Вызов регистрируется в Azure AI Foundry. Этот код выводит ссылку на трассировки.

response = chat.complete(
    model="gpt-4o-mini",
    messages=[
        {"role": "system", "content": "You are an AI assistant that is a travel planning expert especially with National Parks."},
        {"role": "user", "content": "Hey, can you recommend me trails I should go on when I visit Mount Rainier?"},
    ]
)

print("View traces at:")
print(f"https://ai.azure.com/tracing?wsid=/subscriptions/{project.scope['subscription_id']}/resourceGroups/{project.scope['resource_group_name']}/providers/Microsoft.MachineLearningServices/workspaces/{project.scope['project_name']}")

Выберите ссылку и начните просматривать трассировки на портале Azure AI Foundry!

Отладка и фильтрация трассировок

В проекте можно отфильтровать трассировки по мере соответствия.

Выбрав трассировку, я могу выполнить шаги по каждому диапазону и определить проблемы, наблюдая за тем, как мое приложение отвечает.

Анимация фильтрации трассировок на портале.

Обновление присоединенного ресурса Application Insights

Чтобы обновить ресурс Application Insights, подключенный к проекту, перейдите к разделу "Управление источником данных" и "Изменить ", чтобы перейти на новый ресурс Application Insights.

Снимок экрана: всплывающее окно управления источниками данных с выделением кнопки редактирования.

Просмотр трассировок в Azure Monitor

Если вы зарегистрировали трассировки с помощью предыдущего фрагмента кода, то все настроены для просмотра трассировок в Azure Monitor Application Insights. Вы можете открыть в Application Insights из источника данных manage и использовать комплексное представление сведений о транзакциях для дальнейшего изучения.

Дополнительные сведения о отправке трассировок вывода ИИ Azure в Azure Monitor и создании ресурса Azure Monitor см . в документации по Azure Monitor OpenTelemetry.

Просмотр диапазонов и трассировок сгенерируемым ИИ

В проекте Azure AI Foundry можно также открыть настраиваемую панель мониторинга, которая предоставляет аналитические сведения специально для мониторинга создаваемого приложения ИИ.

В этой книге Azure вы можете просмотреть диапазоны ИИ поколения и перейти к представлению сведений о сквозных транзакциях Azure Monitor для глубокого изучения и изучения.

Дополнительные сведения об использовании этой книги для мониторинга приложения см . в документации по книге Azure.

Связанный контент