Azure AI 代理程式服務支援的模型
代理程式是由一組具有不同功能和價格點的各種模型所提供。 模型可用性會依區域和雲端而有所不同。 某些工具和功能需要最新的模型。 下列模型可在可用的 SDK 中使用。 下表適用於隨用隨付。 如需布建輸送量單位 (PTU) 可用性的相關信息,請參閱 Azure OpenAI 檔中的布建輸送量 。 如果此處所列的區域支援全域標準模型,您可以使用 這些模型 。
Azure OpenAI 模型
Azure AI 代理程式服務支援與下列區域中 Azure OpenAI 中聊天完成 API 相同的模型。
區域 | gpt-4o,2024-05-13 | gpt-4o,2024-08-06 | gpt-4o-mini, 2024-07-18 | gpt-4,0613 | gpt-4,1106-Preview | gpt-4,0125-Preview | gpt-4,turbo-2024-04-09 | gpt-4-32k,0613 | gpt-35-turbo,0613 | gpt-35-turbo,1106 | gpt-35-turbo,0125 | gpt-35-turbo-16k,0613 |
---|---|---|---|---|---|---|---|---|---|---|---|---|
australiaeast | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | ✅ | ✅ |
eastus | ✅ | ✅ | ✅ | - | - | ✅ | ✅ | - | ✅ | - | ✅ | ✅ |
eastus2 | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | ✅ | - | ✅ | ✅ |
francecentral | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | - | ✅ |
japaneast | - | - | - | - | - | - | - | - | ✅ | - | ✅ | ✅ |
norwayeast | - | - | - | - | ✅ | - | - | - | - | - | - | - |
southindia | - | - | - | - | ✅ | - | - | - | - | ✅ | ✅ | - |
swedencentral | ✅ | ✅ | ✅ | ✅ | ✅ | - | ✅ | ✅ | ✅ | ✅ | - | ✅ |
uksouth | - | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | ✅ |
westus | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | - | ✅ | ✅ | - |
westus3 | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | - | - | ✅ | - |
更多模型
Azure AI 代理程式服務也支援來自 Azure AI Foundry 模型目錄的下列模型。
- Meta-Llama-405B-指示
- Mistral-large-2407
- Cohere-command-r-plus
- Cohere-command-r
若要使用這些模型,您可以使用 Azure AI Foundry 入口網站進行部署,然後在您的代理程式中加以參考。
移至 Azure AI Foundry 入口網站 ,然後選取 左側導覽功能表中的 [模型目錄 ],然後向下捲動至 Meta-Llama-3-70B-指示。 您也可以尋找並使用先前列出的其中一個模型。
選取 [部署]。
在顯示的 [部署選項] 畫面中,選取 [無伺服器 API 與 Azure AI 內容安全性]。
選取您的項目,然後選取 [訂閱和部署]。
將無伺服器連線新增至中樞/專案。 您選擇的部署名稱是您在程式代碼中參考的部署名稱。
呼叫代理程式建立 API 時,請將
models
參數設定為您的部署名稱。 例如: