通过

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

可视化跟踪

  • 项目

重要

本文中标记了“（预览版）”的项目目前为公共预览版。 此预览版未提供服务级别协议，不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息，请参阅 Microsoft Azure 预览版补充使用条款。

对应用程序进行检测并记录跟踪后，让我们演练如何在本地解决方案和云解决方案中查看跟踪以调试应用程序。

查看用于本地调试的跟踪

若要在本地启用跟踪，有两个选项：

  1. 通过 Prompty，你可以使用 Azure AI 推理 SDK 跟踪应用程序，该 SDK 为基于 LLM 的应用程序提供增强的可见性和简化的故障排除。 此方法遵循 OpenTelemetry 规范，捕获并可视化任何 AI 应用程序的内部执行细节，从而增强整体开发体验。 若要了解详细信息，请参阅调试 Prompty。
  2. Aspire 仪表板：一个免费的开源 OpenTelemetry 仪表板，可深入了解本地开发计算机上的应用。 若要了解详细信息，请参阅 Aspire 仪表板。

在 Azure AI Foundry 门户中查看跟踪

在登录到 Azure AI Foundry 门户之前，请将 Application Insights 资源附加到项目。

  1. 在 Azure AI Foundry 门户中导航到你的项目。
  2. 选择左侧的“跟踪”页。
  3. 选择“新建”，将新的 Application Insights 资源附加到项目。
  4. 提供名称并选择“创建”。

转到跟踪和创建 Application Insight 资源的动画。

接下来，安装 opentelemetry SDK：

%pip install azure-monitor-opentelemetry

现在，启用跟踪并输出到控制台：

import os
from azure.monitor.opentelemetry import configure_azure_monitor

os.environ['AZURE_TRACING_GEN_AI_CONTENT_RECORDING_ENABLED'] = 'true'
# Enable Azure Monitor tracing
application_insights_connection_string = project.telemetry.get_connection_string()
if not application_insights_connection_string:
    print("Application Insights was not enabled for this project.")
    print("Enable it via the 'Tracing' tab in your AI Studio project page.")
    exit()
    
configure_azure_monitor(connection_string=application_insights_connection_string)

最后，运行推理调用。 调用会记录到 Azure AI Studio。 此代码将输出指向跟踪的链接。

response = chat.complete(
    model="gpt-4o-mini",
    messages=[
        {"role": "system", "content": "You are an AI assistant that is a travel planning expert especially with National Parks."},
        {"role": "user", "content": "Hey, can you recommend me trails I should go on when I visit Mount Rainier?"},
    ]
)

print("View traces at:")
print(f"https://ai.azure.com/tracing?wsid=/subscriptions/{project.scope['subscription_id']}/resourceGroups/{project.scope['resource_group_name']}/providers/Microsoft.MachineLearningServices/workspaces/{project.scope['project_name']}")

选择链接并开始在 Azure AI Studio 中查看跟踪！

调试和筛选跟踪

在项目中，可以根据需要筛选跟踪。

通过选择跟踪，可以在观察应用程序响应方式时逐步执行每个范围并确定问题。

门户中筛选跟踪的动画。

更新附加的 Application Insights 资源

若要更新附加到项目的 Application Insights 资源，请转到“管理数据源”和“编辑”以切换到新的 Application Insights 资源。

“管理数据源”弹出窗口的屏幕截图，其中突出显示了“编辑”按钮。

在 Azure Monitor 中查看跟踪

如果使用前面的代码片段记录了跟踪，就可以在 Azure Monitor Application Insights 中查看跟踪了。 可以从“管理数据源”的 Application Insights 中打开，并使用“端到端事务详细信息视图”进一步查看。

有关如何将 Azure AI 推理跟踪发送到 Azure Monitor 并创建 Azure Monitor 资源的详细信息，请参阅 Azure Monitor OpenTelemetry 文档。

查看生成式 AI 范围和跟踪

在 Azure AI Studio 项目中，还可以打开自定义仪表板获取专门的见解来帮助监视生成式 AI 应用程序。

在此 Azure 工作簿中，可以查看 Gen AI 范围并跳转到 Azure Monitor 端到端事务详细信息视图，以便深入了解和调查。

了解有关使用此工作簿监视应用程序的详细信息，请参阅 Azure 工作簿文档。

相关内容