無伺服器 API 端點中模型的區域可用性 | Azure Machine Learning
在本文中,您將了解支援無伺服器 API 端點部署的每個模型可使用哪些區域。
模型目錄中的某些模型可以使用隨用隨付計費部署為無伺服器 API。 這種部署可讓您以 API 的形式取用模型,而不必在您的訂用帳戶上裝載模型,同時讓組織保持所需的企業安全性和合規性。 此部署選項不需要您的訂用帳戶提供配額。
區域可用性
隨用隨付計費僅適用於其 Azure 訂閱屬於模型提供者已推出供應項目之國家/地區中計費帳戶的使用者 (請參閱下一節表格中的「供應項目可用性區域」)。 如果供應項目可在相關區域中使用,則在適用情況下,使用者必須在可部署或微調模型的 Azure 區域中擁有中樞/專案 (請參閱下表中的「中樞/專案區域」資料行)。
Cohere 模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
Cohere Command R+ 08-2024 | Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Command R 08-2024 | Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Command R+ | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Command R | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Rerank 3 - 英文版 | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Rerank 3 - 多語系版 | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Embed 3 - 英文 | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Cohere Embed 3 - 多語系 | Microsoft 管理的國家/地區 日本 卡達 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
JAIS 模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
JAIS 30B Chat | Microsoft 管理的國家/地區 埃及 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Meta Llama 模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
Llama 2 7B Llama 2 13B Llama 2 70B |
Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 美國西部 美國西部 3 |
美國西部 3 |
Llama 2 7B Chat Llama 2 70B Chat |
Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 美國西部 美國西部 3 |
美國西部 3 |
Llama 3 8B Instruct Llama 3 70B Instruct |
Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Llama 3.1 8B Instruct Llama 3.1 70B Instruct |
Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 美國西部 美國西部 3 |
美國西部 3 |
Llama 3.1 405B Instruct | Microsoft 管理的國家/地區 | 美國東部 美國東部 2 美國中北部 美國中南部 美國西部 美國西部 3 |
無法使用 |
Microsoft Phi-3 系列模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
Phi-3.5-vision-Instruct | 不適用 | 美國東部 2 瑞典中部 |
無法使用 |
[Phi-3.5-MoE-Instruct] | 不適用 | 美國東部 2 瑞典中部 |
美國東部 2 |
Phi-3.5-Mini-Instruct | 不適用 | 美國東部 2 瑞典中部 |
美國東部 2 |
Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
不適用 | 美國東部 2 瑞典中部 |
美國東部 2 |
Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
不適用 | 美國東部 2 瑞典中部 |
無法使用 |
Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
不適用 | 美國東部 2 瑞典中部 |
美國東部 2 |
Mistral 模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
Mistral Nemo | Microsoft 管理的國家/地區 巴西 香港 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
部長-3B | Microsoft 管理的國家/地區 巴西 香港 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Mistral-Small | Microsoft 管理的國家/地區 巴西 香港 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Mistral Large (2402) | Microsoft 管理的國家/地區 巴西 香港 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Mistral-Large (2407) | Microsoft 管理的國家/地區 巴西 香港 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
Nixtla 模型
模型 | 供應項目可用性區域 | 用於部署的中樞/專案區域 | 用於微調的中樞/專案區域 |
---|---|---|---|
TimeGEN-1 | Microsoft 管理的國家/地區 墨西哥 以色列 |
美國東部 美國東部 2 美國中北部 美國中南部 瑞典中部 美國西部 美國西部 3 |
無法使用 |
區域可用性的替代方案
如果您的大部分基礎結構位於特定區域,且您想要利用只有無伺服器 API 端點的模型,則可以在支援的區域上建立工作區,然後從另一個區域取用端點。
請參閱從不同的工作區取用無伺服器 API 端點,以了解如何在與部署所在工作區不同的工作區中設定現有的無伺服器 API 端點。
相關內容
- 模型目錄和集合 (部分機器翻譯)
- 將模型部署為無伺服器 API 端點