서버리스 API 엔드포인트의 모델에 대한 지역별 제공 여부
이 문서에서는 서버리스 API 엔드포인트 배포를 지원하는 각 모델에 사용할 수 있는 지역에 대해 알아봅니다.
Important
미리 보기에 있는 모델은 모델 카탈로그의 모델 카드에서 미리 보기로 표시됩니다.
모델 카탈로그 특정 모델은 종량제 청구를 사용하여 서버리스 API로 배포할 수 있습니다. 이 종류의 배포를 활용하면 조직에 필요한 엔터프라이즈 보안 및 규정 준수를 유지하면서 구독에서 모델을 호스트하지 않고 API로 모델을 사용할 수 있습니다. 이 배포 옵션에는 구독으로부터의 할당량이 필요하지 않습니다.
사용 가능 지역
종량제 청구는 모델 공급자가 제품을 사용할 수 있게 한 국가/지역의 청구 계정에 Azure 구독이 속한 사용자만 사용할 수 있습니다(다음 섹션의 표에 있는 "제품 가용성 지역" 참조). 관련 지역에서 제품을 사용할 수 있는 경우 사용자는 해당하는 경우 모델을 배포하거나 미세 조정하는 데 사용할 수 있는 Azure 지역에 허브/프로젝트가 있어야 합니다(아래 표의 “허브/프로젝트 지역” 열 참조).
Cohere 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Cohere Command R+ 08-2024 | Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R 08-2024 | Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R+ | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Rerank v3 - 영어 | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Rerank v3 - 다국어 | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Embed v3 - English | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Embed v3 - Multilingual | Microsoft 관리되는 국가/지역 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Gretel 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| 그레텔 네비게이터 | Microsoft 관리 대상 국가 | 미국 동부 2 | 사용할 수 없음 |
JAIS 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| JAIS 30B 채팅 | Microsoft 관리되는 국가/지역 이집트 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Meta Llama 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Llama 2 7B Llama 2 13B Llama 2 70B |
Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
미국 서부 3 |
| Llama 2 7B 채팅 Llama 2 70B 채팅 |
Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
미국 서부 3 |
| Llama 3 8B Instruct Llama 3 70B 지시 Llama-3.2-1B-Instruct Llama-3.2-3B-Instruct Llama-3.3-70B-Instruct 라마 가드-3-11B-비전 라마 가드-3-1B 라마-3.2-3B 라마-3.2-1B |
Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Llama 3.1 8B Instruct Llama 3.1 70B 지시 Llama-3.2-11B-Vision-Instruct Llama-3.2-90B-Vision-Instruct Llama 3.3 70B 지시 |
Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 스웨덴 중부 |
미국 서부 3 |
| Llama 3.1 405B Instruct | Microsoft 관리되는 국가/지역 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Microsoft Phi 제품군 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 | |
|---|---|---|---|---|
| 피-4 | 해당 없음 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 | |
| Phi-3.5-vision-Instruct | 해당 없음 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 | |
| Phi-3.5-MoE-Instruct | 해당 없음 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
미국 동부 2 | |
| Phi-3.5-Mini-Instruct | 해당 없음 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
미국 동부 2 | 미국 동부 2 |
| Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 | |
| Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
사용할 수 없음 | |
| Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 |
Mistral 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Codestral-2501 | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral Nemo | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Ministral-3B | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral Small | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral Large Mistral-Large (2407) Mistral-Large (2411) |
Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Nixtla 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| TimeGEN-1 | Microsoft 관리되는 국가/지역 멕시코 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
NTTDATA 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| TimeGEN-1 | Microsoft 관리되는 국가/지역 | 미국 동부 2 미국 중남부 미국 동부 미국 서부 3 미국 서부 미국 중북부 |
사용할 수 없음 |
AI21 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| AI21-Jamba-1.5-Mini | Microsoft 관리되는 국가/지역 | 미국 동부 2 미국 중남부 미국 동부 미국 서부 3 미국 서부 미국 중북부 |
사용할 수 없음 |
| AI21-Jamba-1.5-Large | Microsoft 관리되는 국가/지역 | 미국 동부 2 미국 중남부 미국 동부 미국 서부 3 미국 서부 미국 중북부 |
사용할 수 없음 |
Bria 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Bria-2.3-Fast | Microsoft 관리 대상 국가 | 미국 동부 2 | 사용할 수 없음 |
지역 가용성에 대한 대안
대부분의 인프라가 특정 지역에 있고 서버리스 API 엔드포인트로만 사용할 수 있는 모델을 활용하려는 경우 지원되는 지역에 허브 또는 프로젝트를 만든 다음 다른 지역의 엔드포인트를 사용할 수 있습니다.
다른 허브 또는 프로젝트 서버리스 API 엔드포인트를 사용을 읽어 배포된 허브 또는 프로젝트와 다른 허브 또는 프로젝트에서 기존 서버리스 API 엔드포인트를 구성하는 방법을 알아봅니다.