共用方式為


Azure AI 代理程式服務支援的模型

代理程式是由一組具有不同功能和價格點的各種模型所提供。 模型可用性會依區域和雲端而有所不同。 某些工具和功能需要最新的模型。 下列模型可在可用的 SDK 中使用。 下表適用於隨用隨付。 如需布建輸送量單位 (PTU) 可用性的相關信息,請參閱 Azure OpenAI 檔中的布建輸送量 。 如果此處所列的區域支援全域標準模型,您可以使用 這些模型

Azure OpenAI 模型

Azure AI 代理程式服務支援與下列區域中 Azure OpenAI 中聊天完成 API 相同的模型。

區域 gpt-4o2024-05-13 gpt-4o2024-08-06 gpt-4o-mini, 2024-07-18 gpt-40613 gpt-41106-Preview gpt-40125-Preview gpt-4turbo-2024-04-09 gpt-4-32k0613 gpt-35-turbo0613 gpt-35-turbo1106 gpt-35-turbo0125 gpt-35-turbo-16k0613
australiaeast - - - - -
eastus - - - -
eastus2 - - - -
francecentral - - - - - -
japaneast - - - - - - - - -
norwayeast - - - - - - - - - - -
southindia - - - - - - - - -
swedencentral - -
uksouth - - - - - -
westus - - - - -
westus3 - - - - - -

更多模型

Azure AI 代理程式服務也支援來自 Azure AI Foundry 模型目錄的下列模型。

  • Meta-Llama-405B-指示
  • Mistral-large-2407
  • Cohere-command-r-plus
  • Cohere-command-r

若要使用這些模型,您可以使用 Azure AI Foundry 入口網站進行部署,然後在您的代理程式中加以參考。

  1. 移至 Azure AI Foundry 入口網站 ,然後選取 左側導覽功能表中的 [模型目錄 ],然後向下捲動至 Meta-Llama-3-70B-指示。 您也可以尋找並使用先前列出的其中一個模型。

  2. 選取 [部署]

  3. 在顯示的 [部署選項] 畫面中,選取 [無伺服器 API 與 Azure AI 內容安全性]。

    llama 模型項目選取畫面的影像。

  4. 選取您的項目,然後選取 [訂閱和部署]。

    llama 模型部署畫面的影像。

  5. 將無伺服器連線新增至中樞/專案。 您選擇的部署名稱是您在程式代碼中參考的部署名稱。

  6. 呼叫代理程式建立 API 時,請將 models 參數設定為您的部署名稱。 例如:

    agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent" ) 
    

下一步

建立新的 Agent 專案