你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

如何使用 Azure AI Studio 部署 Azure OpenAI 模型

重要

本文中标记了“(预览版)”的项目目前为公共预览版。 此预览版未提供服务级别协议,不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款

本文介绍了如何在 Azure AI Studio 中创建 Azure OpenAI 模型部署。

Azure OpenAI 服务提供了一组不同的模型,分别具有不同的功能和价位。 在 Azure AI Studio 中部署 Azure OpenAI 模型时,可以使用提示流或其他工具使用部署。 模型可用性因区域而异。 要详细了解每个模型的详细信息,请参阅 Azure OpenAI 服务模型

要在 Azure AI Studio 操场中修改 Azure OpenAI 模型并与之交互,首先需要将基础 Azure OpenAI 模型部署到项目。 模型部署完毕并可用于项目后,可以按原样使用其 REST API 终结点,也可以使用自己的数据和其他组件(嵌入、索引等)进一步自定义。

先决条件

从模型目录部署 Azure OpenAI 模型

按照以下步骤从 AI Studio 模型目录将 Azure OpenAI 模型(例如,gpt-4o-mini)部署到实时终结点:

  1. 登录到 Azure AI Studio
  2. 如果你尚未进入项目,请先选择它。
  3. 从左侧导航窗格中选择“模型目录”。
  1. 在“集合”筛选器中,选择“Azure OpenAI”

    显示如何按目录中的 Azure OpenAI 模型进行筛选的屏幕截图。

  2. 从 Azure OpenAI 集合中选择gpt-4o-mini等模型。

  3. 选择“部署”以打开部署窗口

  4. 选择要将模型部署到的资源。 如果没有资源,可以创建一个资源。

  5. 根据要求指定部署名称并修改其他默认设置。

  6. 选择“部署”。

  7. 登陆部署详细信息页。 选择“在操场中打开”。

  8. 选择“查看代码”,以获取可用于在应用程序中使用已部署模型的代码示例

从项目部署 Azure OpenAI 模型

也可从 AI Studio 中的项目开始启动部署。

  1. 转到 AI Studio 中的项目。
  2. 在项目的左侧栏中,转到“我的资产”>“模型 + 终结点”。
  3. 选择“+ 部署模型”>“部署基本模型”。
  4. 在“集合”筛选器中,选择“Azure OpenAI”
  5. 从 Azure OpenAI 集合中选择gpt-4o-mini等模型。
  6. 选择“确认”以打开部署窗口
  7. 根据要求指定部署名称并修改其他默认设置。
  8. 选择“部署”。
  9. 登陆部署详细信息页。 选择“在操场中打开”。
  10. 选择“查看代码”,以获取可用于在应用程序中使用已部署模型的代码示例

Azure OpenAI 模型推理

要对部署的模型执行推理,可以使用操场或代码示例。 操场是基于 Web 的界面,可用于实时与模型交互。 可以使用操场以不同的提示测试模型,并查看模型的响应。

有关如何在应用程序中使用已部署模型的更多示例,请参阅以下 Azure OpenAI 快速入门:

模型的区域可用性和配额限制

对于 Azure OpenAI 模型,模型的默认配额因模型和区域而异。 某些模型可能仅在某些区域可用。 有关可用性和配额限制的详细信息,请参阅Azure OpenAI 服务配额和限制

用于部署和推理模型的配额

对于 Azure OpenAI 模型,部署和推理会消耗按区域、按模型分配到订阅的配额,该配额以每分钟令牌数 (TPM) 为单位。 注册 Azure AI Studio 时,你会收到大多数可用模型的默认配额。 然后,在创建 TPM 时将其分配给每个部署,从而根据分配的量减少该模型的可用配额。 可以继续创建部署并为其分配 TPM,直到达到配额上限。

达到配额限制后,新建该模型的部署的唯一方法是:

要了解有关配额的详细信息,请参阅Azure AI Studio 配额管理 Azure OpenAI 服务配额