如何使用 Azure AI Foundry 部署 Azure OpenAI 模型
重要
本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款。
在本文中,您將瞭解如何在 Azure AI Foundry 入口網站中建立 Azure OpenAI 模型部署。
Azure OpenAI 服務提供具有不同功能和價格點的多種模型集合。 當您在 Azure AI Foundry 入口網站中部署 Azure OpenAI 模型時,您可以使用提示流程或其他工具來取用部署。 模型供應情形因區域而異 若要深入了解每個模型的詳細資料,請參閱 Azure OpenAI 服務模型。
若要在 Azure AI Foundry 遊樂場中修改 Azure OpenAI 模型並與其互動,您必須先將基礎 Azure OpenAI 模型部署至您的專案。 一旦模型在您的專案中進行部署並且可用之後,您就可以按原樣取用其 REST API 端點,或使用您自己的資料和其他元件 (內嵌、索引等) 做進一步的自訂。
必要條件
具有有效付款方式的 Azure 訂用帳戶。 免費版或試用版 Azure 訂用帳戶將無法運作。 如果您沒有 Azure 訂用帳戶,請建立付費 Azure 帳戶以開始。
從模型目錄中部署 Azure OpenAI 模型
請遵循下列步驟,從 Azure AI Foundry 入口網站模型目錄將 Azure OpenAI 模型gpt-4o-mini
部署至即時端點:
- 登入 Azure AI Foundry。
- 如果您尚未在專案中,請選取它。
- 從左側瀏覽窗格中選取 [模型目錄 ]。
在「集合」篩選條件中,選取「Azure OpenAI」。
從 Azure OpenAI 集合中選取模型 (例如
gpt-4o-mini
)。選取「部署」以開啟部署視窗。
選取您要部署模型的資源。 如果您沒有資源,您可以建立一個資源。
根據您的需求指定部署名稱,並修改其他預設設定。
選取部署。
您會到達部署詳細資料頁面。 選取 [在遊樂場中開啟]。
選取 [檢視程式碼],以取得可用來取用應用程式中已部署模型的程式碼範例。
從專案部署 Azure OpenAI 模型
或者,您可以從 Azure AI Foundry 入口網站中的項目開始起始部署。
- 在 Azure AI Foundry 入口網站中移至您的專案。
- 從項目的左側提要字段中,移至 [我的資產>模型 + 端點]。
- 選取 [+ 部署模型>部署基底模型]。
- 在「集合」篩選條件中,選取「Azure OpenAI」。
- 從 Azure OpenAI 集合中選取模型 (例如
gpt-4o-mini
)。 - 選取「確認」以開啟部署視窗。
- 根據您的需求指定部署名稱,並修改其他預設設定。
- 選取部署。
- 您會到達部署詳細資料頁面。 選取 [在遊樂場中開啟]。
- 選取 [檢視程式碼],以取得可用來取用應用程式中已部署模型的程式碼範例。
推斷 Azure OpenAI 模型
若要在已部署的模型上執行推斷作業,您可以使用遊樂場或程式碼範例。 遊樂場是以 Web 為基礎的介面,可讓您即時與模型互動。 您可以使用遊樂場透過不同的提示來測試模型,並查看模型的回應。
如需如何在應用程式中取用已部署模型的更多範例,請參閱下列 Azure OpenAI 快速入門:
模型的區域可用性和配額限制
針對 Azure OpenAI 模型,模型的預設配額會因模型和區域而異。 某幾個模型可能僅適用於某些區域。 如需可用性和配額限制的詳細資訊,請參閱 Azure OpenAI 服務配額和限制。
部署和推斷模型的配額
針對 Azure OpenAI 模型,部署和推斷會以每分鐘令牌單位(TPM)單位,依每個區域指派給訂用帳戶的配額。 當您註冊 Azure AI Foundry 時,您會收到大部分可用模型的預設配額。 然後,在建立部署時將 TPM 指派給每個部署,而該模型的可用配額則會隨著該數量而減少。 您可以繼續建立部署並將其指派給 TPM,直到達到配額限制為止。
達到配額限制時,建立該模型新部署的唯一方法是:
- 提交配額增加表單以要求更多配額。
- 調整其他模型部署上配置的配額,以為 azure OpenAI 入口網站上的新部署釋出權杖。
若要深入瞭解配額,請參閱 Azure AI Foundry 配額 和管理 Azure OpenAI 服務配額。
相關內容
- 深入瞭解您可以在 Azure AI Foundry 中 執行的動作
- 在 Azure AI 常見問題文章中取得常見問題的解答