你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
如何使用 Azure AI Studio 部署 Azure OpenAI 模型
重要
本文中标记了“(预览版)”的项目目前为公共预览版。 此预览版未提供服务级别协议,不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款。
本文介绍了如何在 Azure AI Studio 中创建 Azure OpenAI 模型部署。
Azure OpenAI 服务提供了一组不同的模型,分别具有不同的功能和价位。 在 Azure AI Studio 中部署 Azure OpenAI 模型时,可以使用提示流或其他工具使用部署。 模型可用性因区域而异。 要详细了解每个模型的详细信息,请参阅 Azure OpenAI 服务模型。
要在 Azure AI Studio 操场中修改 Azure OpenAI 模型并与之交互,首先需要将基础 Azure OpenAI 模型部署到项目。 模型部署完毕并可用于项目后,可以按原样使用其 REST API 终结点,也可以使用自己的数据和其他组件(嵌入、索引等)进一步自定义。
先决条件
具有有效付款方式的 Azure 订阅。 不能使用免费或试用 Azure 订阅。 如果没有 Azure 订阅,请先创建一个付费的 Azure 帐户。
从模型目录部署 Azure OpenAI 模型
按照以下步骤从 AI Studio 模型目录将 Azure OpenAI 模型(例如,gpt-4o-mini
)部署到实时终结点:
- 登录到 Azure AI Studio。
- 如果你尚未进入项目,请先选择它。
- 从左侧导航窗格中选择“模型目录”。
在“集合”筛选器中,选择“Azure OpenAI”。
从 Azure OpenAI 集合中选择
gpt-4o-mini
等模型。选择“部署”以打开部署窗口。
选择要将模型部署到的资源。 如果没有资源,可以创建一个资源。
根据要求指定部署名称并修改其他默认设置。
选择“部署”。
登陆部署详细信息页。 选择“在操场中打开”。
选择“查看代码”,以获取可用于在应用程序中使用已部署模型的代码示例。
从项目部署 Azure OpenAI 模型
也可从 AI Studio 中的项目开始启动部署。
- 转到 AI Studio 中的项目。
- 在项目的左侧栏中,转到“我的资产”>“模型 + 终结点”。
- 选择“+ 部署模型”>“部署基本模型”。
- 在“集合”筛选器中,选择“Azure OpenAI”。
- 从 Azure OpenAI 集合中选择
gpt-4o-mini
等模型。 - 选择“确认”以打开部署窗口。
- 根据要求指定部署名称并修改其他默认设置。
- 选择“部署”。
- 登陆部署详细信息页。 选择“在操场中打开”。
- 选择“查看代码”,以获取可用于在应用程序中使用已部署模型的代码示例。
Azure OpenAI 模型推理
要对部署的模型执行推理,可以使用操场或代码示例。 操场是基于 Web 的界面,可用于实时与模型交互。 可以使用操场以不同的提示测试模型,并查看模型的响应。
有关如何在应用程序中使用已部署模型的更多示例,请参阅以下 Azure OpenAI 快速入门:
模型的区域可用性和配额限制
对于 Azure OpenAI 模型,模型的默认配额因模型和区域而异。 某些模型可能仅在某些区域可用。 有关可用性和配额限制的详细信息,请参阅Azure OpenAI 服务配额和限制。
用于部署和推理模型的配额
对于 Azure OpenAI 模型,部署和推理会消耗按区域、按模型分配到订阅的配额,该配额以每分钟令牌数 (TPM) 为单位。 注册 Azure AI Studio 时,你会收到大多数可用模型的默认配额。 然后,在创建 TPM 时将其分配给每个部署,从而根据分配的量减少该模型的可用配额。 可以继续创建部署并为其分配 TPM,直到达到配额上限。
达到配额限制后,新建该模型的部署的唯一方法是:
- 通过提交配额提高表单来请求更多配额。
- 在 Azure OpenAI 门户上调整其他模型部署的已分配配额,以释放令牌进行新的部署。
要了解有关配额的详细信息,请参阅Azure AI Studio 配额和管理 Azure OpenAI 服务配额。
相关内容
- 详细了解可以在 Azure AI Studio 中执行哪些操作
- 在 Azure AI 常见问题解答文章中获取常见问题的解答