Azure AI 모델 유추란?
Azure AI 모델 유추는 Azure AI 모델 카탈로그에서 사용할 수 있는 가장 강력한 모델에 대한 액세스를 제공합니다. 모델은 OpenAI, Microsoft, Meta, Mistral, Cohere, G42 및 AI21 Labs를 비롯한 업계의 주요 모델 공급자로부터 제공됩니다. 이러한 모델을 소프트웨어 솔루션과 통합하여 콘텐츠 생성, 요약, 이미지 이해, 의미 체계 검색 및 코드 생성을 포함하는 광범위한 작업을 제공할 수 있습니다.
Azure AI 모델 유추는 인프라에서 모델을 호스팅하지 않고 모델을 API로 사용하는 방법을 제공합니다. 모델은 Microsoft가 관리하는 인프라에서 호스트되므로 모델 공급자의 모델에 API를 통해 액세스할 수 있게 해 줍니다. API 기반 액세스는 모델 액세스 비용을 대폭 줄이고 프로비전 환경을 간소화할 수 있습니다.
Azure AI 모델 유추는 Azure AI 서비스의 일부이며 사용자는 PYTHON, C#, JavaScript 및 Java와 같은 여러 언어의 REST API, SDK를 통해 서비스에 액세스할 수 있습니다. 연결을 구성하여 Azure AI Foundry에서 Azure AI 모델 유추를 사용할 수도 있습니다.
모델
OpenAI, Microsoft, Meta, Mistral, Cohere, G42 및 AI21 Labs를 비롯한 업계의 주요 모델 공급자에 액세스할 수 있습니다. 모델 공급자는 사용 조건을 정의하고 모델 사용에 대한 가격을 설정합니다. 다음 목록에서는 사용 가능한 모든 모델을 보여 줍니다.
팁
모델, 기능 및 세부 정보에 대한 자세한 보기는 모델 문서를 참조하세요.
| 공급자 | 모델 |
|---|---|
| AI21 랩 | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1 - gpt-4o - o1-preview - o1-mini - gpt-4o-mini - text-embedding-3-large - text-embedding-3-small |
| Cohere | - Cohere-embed-v3-english - Cohere-embed-v3-multilingual - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-command-r-plus - Cohere-command-r |
| Core42 | - jais-30b-chat |
| Meta | - Llama-3.3-70B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruct - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruct - Phi-4 |
| Mistral AI | - Ministral-3B - Mistral-large - Mistral-small - 미스트랄 니모 - Mistral-large-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT Data | - 츠즈미-7b |
가격 책정
Microsoft가 아닌 공급자의 모델(예: Meta AI 및 Mistral 모델)의 경우 청구는 Azure Marketplace를 통해 청구됩니다. 이러한 모델의 경우 Microsoft 상업용 Marketplace 사용 약관에 따라 특정 모델 제품을 구독해야 합니다. 사용자는 모델 사용에 대한 사용 조건을 수락합니다. 사용량에 대한 가격 책정 정보는 배포 중에 제공됩니다.
Microsoft 모델(예: Phi-3 모델 및 Azure OpenAI 모델)의 경우 청구는 Azure 미터를 자사 소비 서비스로 통해 청구됩니다. 제품 약관에 설명된 대로 Azure 미터를 사용하여 자사 사용량 서비스를 구매하지만 Azure 서비스 약관이 적용되지는 않습니다.
팁
Azure AI 모델 유추에서 비용을 모니터링하고 관리하는 방법을 알아봅니다.
책임 있는 AI
Microsoft는 사용자를 최우선으로 하는 원칙에 따라 AI를 발전시키기 위해 최선을 다하고 있습니다. Azure AI 모델에서 사용할 수 있는 모델과 같은 생성 모델은 상당한 잠재적 이점을 제공하지만 신중한 디자인과 신중한 완화가 없으면 이러한 모델은 올바르지 않거나 유해한 콘텐츠를 생성할 가능성이 있습니다.
Microsoft는 다음 작업을 수행하여 남용 및 의도하지 않은 피해 방지를 지원합니다.
- 책임 있는 AI 사용에 대한 Microsoft의 원칙 통합
- 서비스 사용을 위한 행동 강령 채택
- 고객을 지원하기 위한 콘텐츠 필터 빌드
- Azure OpenAI를 사용할 때 고객이 고려해야 할 책임 있는 AI 정보 및 지침을 제공합니다.
시작
Azure AI 모델 유추는 Azure AI Services 리소스에 대한 새로운 기능 제품입니다. Azure 구독에서 Azure AI 모델 유추 또는 서비스 인스턴스에 대한 리소스를 만들고 구성하는 다른 Azure 제품과 동일한 방식으로 시작할 수 있습니다. 요구 사항이 다른 여러 팀이 있는 경우 필요에 따라 리소스를 만들고 독립적으로 구성할 수 있습니다.
Azure AI Services 리소스를 만든 후에는 API 호출을 시작하기 전에 모델을 배포해야 합니다. 기본적으로 사용할 수 있는 모델은 없으므로 시작할 모델을 제어할 수 있습니다. Azure AI 모델 유추에서 첫 번째 모델 배포 만들기 자습서를 참조하세요.