서버리스 API 엔드포인트의 모델에 대한 지역별 제공 여부
이 문서에서는 서버리스 API 엔드포인트 배포를 지원하는 각 모델에 사용할 수 있는 지역에 대해 알아봅니다.
Important
미리 보기에 있는 모델은 모델 카탈로그의 모델 카드에서 미리 보기로 표시됩니다.
모델 카탈로그 특정 모델은 종량제 청구를 사용하여 서버리스 API로 배포할 수 있습니다. 이 종류의 배포를 활용하면 조직에 필요한 엔터프라이즈 보안 및 규정 준수를 유지하면서 구독에서 모델을 호스트하지 않고 API로 모델을 사용할 수 있습니다. 이 배포 옵션에는 구독으로부터의 할당량이 필요하지 않습니다.
사용 가능 지역
종량제 청구는 모델 공급자가 제품을 제공한 국가의 청구 계정에 Azure 구독이 속한 사용자에게만 제공됩니다(다음 섹션의 표에서 "제품 가용성 지역" 참조). 관련 지역에서 제품을 사용할 수 있는 경우 사용자는 해당하는 경우 모델을 배포하거나 미세 조정하는 데 사용할 수 있는 Azure 지역에 허브/프로젝트가 있어야 합니다(아래 표의 “허브/프로젝트 지역” 열 참조).
Cohere 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Cohere Command R+ 08-2024 | Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R 08-2024 | Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R+ | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Command R | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Rerank 3 - 영어 | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Rerank 3 - 다국어 | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Embed 3 - 영어 | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Cohere Embed 3 - 다국어 | Microsoft 관리 대상 국가 일본 카타르 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
JAIS 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| JAIS 30B 채팅 | Microsoft 관리 대상 국가 이집트 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Meta Llama 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Llama 2 7B Llama 2 13B Llama 2 70B |
Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
미국 서부 3 |
| Llama 2 7B 채팅 Llama 2 70B 채팅 |
Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
미국 서부 3 |
| Llama 3 8B Instruct Llama 3 70B Instruct |
Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Llama 3.1 8B Instruct Llama 3.1 70B Instruct |
Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
미국 서부 3 |
| Llama 3.1 405B Instruct | Microsoft 관리 대상 국가 | 미국 동부 미국 동부 2 미국 중북부 미국 중남부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Microsoft Phi-3 제품군 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Phi-3.5-vision-Instruct | 해당 없음 | 미국 동부 2 스웨덴 중부 |
사용할 수 없음 |
| Phi-3.5-MoE-Instruct | 해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 |
| Phi-3.5-Mini-Instruct | 해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 |
| Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 |
| Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
사용할 수 없음 |
| Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
해당 없음 | 미국 동부 2 스웨덴 중부 |
미국 동부 2 |
Mistral 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| Mistral Nemo | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Ministral-3B | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral Small | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral Large(2402) | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
| Mistral-Large(2407) | Microsoft 관리 대상 국가 브라질 홍콩 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
Nixtla 모델
| 모델 | 제품 사용 가능 지역 | 배포를 위한 허브/프로젝트 지역 | 미세 조정을 위한 허브/프로젝트 지역 |
|---|---|---|---|
| TimeGEN-1 | Microsoft 관리 대상 국가 멕시코 이스라엘 |
미국 동부 미국 동부 2 미국 중북부 미국 중남부 스웨덴 중부 미국 서부 미국 서부 3 |
사용할 수 없음 |
지역 가용성에 대한 대안
대부분의 인프라가 특정 지역에 있고 서버리스 API 엔드포인트로만 사용할 수 있는 모델을 활용하려는 경우 지원되는 지역에 허브 또는 프로젝트를 만든 다음 다른 지역의 엔드포인트를 사용할 수 있습니다.
다른 허브 또는 프로젝트 서버리스 API 엔드포인트를 사용을 읽어 배포된 허브 또는 프로젝트와 다른 허브 또는 프로젝트에서 기존 서버리스 API 엔드포인트를 구성하는 방법을 알아봅니다.