你当前正在访问 Microsoft Azure Global Edition 技术文档网站。如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

监视机器学习 Web 服务终结点以及从中收集数据

项目
09/03/2024

在本文中，你将了解如何从部署到 Azure Kubernetes 服务 (AKS) 或 Azure 容器实例 (ACI) 中 Web 服务终结点的模型收集数据。使用 Azure Application Insights 从终结点收集以下数据：

输出数据
响应
请求速率、响应时间和失败率
依赖项速率、响应时间和失败率
异常

enable-app-insights-in-production-service.ipynb 笔记本演示了本文所述的概念。

阅读使用 Jupyter 笔记本探索此服务一文，了解如何运行笔记本。

重要

本文中的信息依赖于使用工作区创建的 Azure Application Insights 实例。如果删除了此 Application Insights 实例，则除了删除并重新创建工作区之外，无法重新创建该实例。

提示

如果改用在线终结点，请改用监视在线终结点一文中的信息。

先决条件

Azure 订阅 - 试用 Azure 机器学习免费版或付费版。
已安装 Azure 机器学习工作区、一个包含脚本的本地目录以及用于 Python 的 Azure 机器学习 SDK。若要了解详细信息，请参阅如何配置开发环境。
已定型的机器学习模型。若要了解详细信息，请参阅训练图像分类模型教程。

使用 Python SDK 配置日志记录

本部分介绍如何使用 Python SDK 启用 Application Insights 日志记录。

更新已部署的服务

使用以下步骤更新现有的 Web 服务：

在工作区中标识该服务。 ws 的值是工作区的名称

from azureml.core.webservice import Webservice
aks_service= Webservice(ws, "my-service-name")

更新服务并启用 Azure Application Insights
```
aks_service.update(enable_app_insights=True)
```

在服务中记录自定义跟踪

重要

Azure Application Insights 仅记录最多 64kb 的有效负载。如果达到此限制，则可能会出现诸如内存不足或不会记录任何信息之类的错误。如果要记录的数据大于 64kb，应使用为生产环境中的模型收集数据中的信息，将其存储到 Blob 存储中。

对于更复杂的情况（如 AKS 部署中的模型跟踪），我们建议使用第三方库，如 OpenCensus。

若要记录自定义跟踪，请遵循部署方式和部署位置文档中适用于 AKS 或 ACI 的标准部署过程。然后，使用以下步骤：

通过添加 print 语句来更新计分文件，以在推理期间将数据发送到 Application Insights。对于更复杂的信息（例如请求数据和响应），请使用 JSON 结构。

下面的示例 score.py 文件记录模型初始化的时间、推理期间的输入和输出以及发生任何错误的时间。

import pickle
import json
import numpy 
from sklearn.externals import joblib
from sklearn.linear_model import Ridge
from azureml.core.model import Model
import time

def init():
    global model
    #Print statement for appinsights custom traces:
    print ("model initialized" + time.strftime("%H:%M:%S"))

    # note here "sklearn_regression_model.pkl" is the name of the model registered under the workspace
    # this call should return the path to the model.pkl file on the local disk.
    model_path = Model.get_model_path(model_name = 'sklearn_regression_model.pkl')

    # deserialize the model file back into a sklearn model
    model = joblib.load(model_path)


# note you can pass in multiple rows for scoring
def run(raw_data):
    try:
        data = json.loads(raw_data)['data']
        data = numpy.array(data)
        result = model.predict(data)
        # Log the input and output data to appinsights:
        info = {
            "input": raw_data,
            "output": result.tolist()
            }
        print(json.dumps(info))
        # you can return any datatype as long as it is JSON-serializable
        return result.tolist()
    except Exception as e:
        error = str(e)
        print (error + time.strftime("%H:%M:%S"))
        return error

更新服务配置，并确保启用 Application Insights。

config = Webservice.deploy_configuration(enable_app_insights=True)

生成一个映像并将它部署到 AKS 或 ACI 上。有关详细信息，请参阅部署方式及位置。

在 Python 中禁用跟踪

若要禁用 Azure Application Insights，请使用以下代码：

## replace <service_name> with the name of the web service
<service_name>.update(enable_app_insights=False)

使用 Azure 机器学习工作室配置日志记录

还可以从 Azure 机器学习工作室启用 Azure Application Insights。当你准备好将模型部署为 Web 服务时，请使用以下步骤启用 Application Insights：

从 https://ml.azure.com 登录到工作室。
转到“模型”并选择要部署的模型。
选择“+部署”。
填充“部署模型”窗体。
展开“高级”菜单。
选择“启用 Application Insights 诊断和数据收集”。

查看指标和日志

查询部署的模型的日志

联机终结点的日志是客户数据。可以使用 get_logs() 函数从以前部署的 Web 服务检索日志。日志可以包含有关部署期间发生的任何错误的详细信息。

from azureml.core import Workspace
from azureml.core.webservice import Webservice

ws = Workspace.from_config()

# load existing web service
service = Webservice(name="service-name", workspace=ws)
logs = service.get_logs()

如果有多个租户，则可能需要在 ws = Workspace.from_config() 之前添加以下身份验证代码

from azureml.core.authentication import InteractiveLoginAuthentication
interactive_auth = InteractiveLoginAuthentication(tenant_id="the tenant_id in which your workspace resides")

在工作室中查看日志

Azure Application Insights 将服务日志存储在与 Azure 机器学习工作区相同的资源组中。按照以下步骤使用工作室查看数据：

在工作室中转到 Azure 机器学习工作区。
选择“终结点”。
选择已部署的服务。
选择“Application Insights url”链接。
在 Application Insights 中，从“概述”选项卡或“监视”部分选择“日志” 。
若要查看从 score.py 文件记录的信息，请查看跟踪表。以下查询搜索记录了输入值的日志：
```
traces
| where customDimensions contains "input"
| limit 10
```

有关如何使用 Azure Application Insights 的详细信息，请参阅什么是 Application Insights。

Web 服务元数据和响应数据

重要

Azure Application Insights 仅记录最多 64kb 的有效负载。如果达到此限制，可能会出现内存不足或未记录任何信息等错误。

若要记录 Web 服务请求信息，请将 print 语句添加到 score.py 文件。每个 print 语句都会在 Application Insights 跟踪表中的消息 STDOUT 下生成一个条目。 Application Insights 将 print 语句输出存储在 customDimensions 和 Contents 跟踪表中。打印 JSON 字符串会在 Contents 下的跟踪输出中生成分层数据结构。

导出数据以进行保留和处理

重要

Azure Application Insights 仅支持导出到 Blob 存储。有关此实现限制的详细信息，请参阅从 App Insights 导出遥测。

使用 Application Insights 的连续导出将数据导出到 Blob 存储帐户，你可以在其中定义保留设置。 Application Insights 以 JSON 格式导出数据。

连续导出

后续步骤

本文介绍了如何为 Web 服务终结点启用日志记录和查看日志。有关后续步骤，请尝试阅读以下文章：

如何将模型部署到 AKS 群集
如何将模型部署到 Azure 容器实例
MLOps：使用 Azure 机器学习管理、部署和监视模型，详细了解在生产中利用从模型收集的数据。此类数据有助于持续改进你的机器学习流程。

通过