이 문서에서 질문에 대한 답변을 찾을 수 없고 여전히 도움이 필요한 경우 Azure AI 서비스 지원 옵션 가이드를 확인하세요.
일반
Azure OpenAI 서비스와 Azure AI 모델 유추의 차이점은 무엇인가요?
Azure OpenAI 서비스는 고객에게 OpenAI의 고급 언어 모델에 대한 액세스 권한을 제공합니다. Azure AI 모델 유추는 고객이 동일한 서비스, 엔드포인트 및 자격 증명으로 Azure AI의 모든 주력 모델에 액세스할 수 있도록 이러한 기능을 확장합니다. 여기에는 Azure OpenAI, Cohere, Mistral AI, Meta Llama, AI21 랩 등이 포함됩니다. 고객은 코드를 변경하지 않고도 모델 간에 원활하게 전환할 수 있습니다.
Azure OpenAI Service와 Azure AI 모델 유추는 모두 Azure AI 서비스 제품군의 일부이며 Azure의 동일한 보안 및 엔터프라이즈 약속을 기반으로 구축됩니다.
Azure AI 모델 유추는 유추에 중점을 두지만 일괄 처리, 미세 조정, 도우미 및 파일과 같은 고급 API와 함께 Azure OpenAI 서비스를 사용할 수 있습니다.
OpenAI와 Azure OpenAI의 차이점은 무엇인가요?
Azure AI 모델 및 Azure OpenAI Service는 고객이 Azure의 보안 및 엔터프라이즈 약속을 사용하여 OpenAI의 고급 언어 모델에 액세스할 수 있도록 합니다. Azure OpenAI는 OpenAI와 API를 공동 개발하여 호환성과 원활한 전환을 보장합니다.
고객은 OpenAI와 동일한 모델을 실행하는 동안 Microsoft Azure의 보안 기능을 얻습니다. 프라이빗 네트워킹, 지역 가용성 및 책임 있는 AI 콘텐츠 필터링을 제공합니다.
Azure OpenAI 서비스에 대해 자세히 알아봅니다.
Azure AI 서비스와 Azure AI Foundry의 차이점은 무엇인가요?
Azure AI 서비스는 일반적인 AI 시나리오에 미리 빌드된 API를 제공하는 AI 서비스 제품군입니다. Azure AI Services는 Azure AI Foundry 플랫폼의 일부입니다. Azure AI 서비스를 Azure AI Foundry 포털에서 사용하여 미리 빌드된 AI 기능으로 모델을 향상시킬 수 있습니다.
모델
Azure AI 모델 카탈로그의 모든 모델이 Azure AI 서비스에서 지원되지 않는 이유는 무엇인가요?
AI 서비스의 Azure AI 모델 유추는 종량제 청구가 있는 Azure AI 카탈로그의 모든 모델을 지원합니다. 자세한 내용은 모델 문서를 참조 하세요.
Azure AI 모델 카탈로그에는 광범위한 모델 목록이 포함되어 있지만 이러한 모델에는 구독의 컴퓨팅 할당량이 필요합니다. 또한 배포를 호스트할 프로젝트 또는 AI 허브가 있어야 합니다. 자세한 내용은 Azure AI Foundry의 배포 옵션을 참조 하세요.
SDK 및 프로그래밍 언어
Azure AI 모델 유추에 지원되는 SDK 및 프로그래밍 언어는 무엇입니까?
Azure AI 서비스, AzureOpenAI OpenAI SDK의 클래스 또는 Azure OpenAI SDK에서 Azure AI 모델 유추에서 지원하는 모든 모델에서 Azure 유추 SDK를 사용할 수 있습니다.
Azure AI 서비스에 연결할 때는 Cohere SDK, Mistral SDK 및 모델 공급자별 SDK가 지원되지 않습니다.
자세한 내용은 지원되는 SDK 및 프로그래밍 언어를 참조 하세요.
Azure AI 모델 유추는 OpenAI(버전>=1.0)에서 릴리스된 최신 Python 라이브러리에서 작동하나요?
Azure AI 서비스는 OpenAI Python 라이브러리의 최신 릴리스(버전>=1.0)를 지원합니다.
Azure AI 모델 유추를 지원하는 모델을 요청하지만 404 오류가 발생합니다. 어떻게 해야 합니까?
지정된 모델에 대한 배포를 만들고 배포 이름이 매개 변수를 전달하는 model 값과 정확히 일치하는지 확인합니다. 라우팅은 대/소문자를 구분하지 않지만 일반적인 실수이므로 특별한 문장 부호나 공백이 없는지 확인합니다.
Python용 'azure-ai-inference' 패키지를 사용하고 있으며 키를 사용하여 인증하려고 할 때 401 오류가 발생합니다. 어떻게 해야 합니까?
Azure AI Services 리소스에는 Python 버전 azure-ai-inference>=1.0.0b5 이 필요합니다. 해당 버전을 사용하고 있는지 확인합니다.
OpenAI SDK를 사용하고 있으며 Azure OpenAI 유추 엔드포인트를 기본 URL(https://.openai.azure.com<resource-name>)으로 표시했습니다. 그러나 404 오류가 발생합니다. 어떻게 해야 합니까?
Azure OpenAI 서비스에 올바른 엔드포인트와 올바른 자격 증명 집합을 사용하고 있는지 확인합니다. 또한 인증 메커니즘 및 사용되는 URL이 다르기 때문에 OpenAI SDK의 클래스 AzureOpenAI 를 사용하고 있는지 확인합니다.
Azure AI 모델 유추가 사용자 지정 API 헤더를 지원하나요? 사용자 지정 헤더를 API 요청에 추가하고 HTTP 431 오류 오류가 표시됩니다.
현재 API는 파이프라인을 통해 전달되고 반환되는 최대 10개의 사용자 지정 헤더를 허용합니다. 이제 일부 고객이 이 헤더 수를 초과하여 HTTP 431 오류가 발생하는 것을 확인했습니다. 헤더 볼륨을 줄이는 것 외에는 이 오류에 대한 솔루션이 없습니다. 이후 API 버전에서는 더 이상 사용자 지정 헤더를 통과하지 않습니다. 향후 시스템 아키텍처에서는 사용자 지정 헤더를 사용하지 않는 것이 좋습니다.
가격 책정 및 청구
Azure AI 모델 유추 요금은 어떻게 청구되는가?
API에 대한 입/출력 요금은 대개 토큰으로 청구됩니다. 리소스 자체 또는 배포와 관련된 비용은 없습니다.
토큰 가격은 각 모델에 따라 다르며 토큰 1,000개당 요금이 청구됩니다. 지정된 모델을 배포하기 전에 가격 책정 세부 정보를 볼 수 있습니다. 청구에 대한 자세한 내용은 비용 관리를 참조하세요.
청구서 세부 정보는 어디에서 볼 수 있나요?
청구 및 비용은 Azure Cost Management + 청구에 표시됩니다. Azure Portal에서 사용량 세부 정보를 볼 수 있습니다.
청구는 Azure AI Foundry 포털에 표시되지 않습니다.
청구서에 지출 한도를 어떻게 지정할 수 있나요?
Azure Cost Management + 청구에 따라 Azure Portal에서 지출 한도를 설정할 수 있습니다. 이 제한은 설정한 한도를 초과하여 지출하지 못하게 합니다. 지출 한도에 도달하면 구독이 비활성화되고 다음 청구 주기 때까지 엔드포인트를 사용할 수 없습니다.
데이터 및 개인 정보:
내 회사 데이터를 사용하여 모델을 훈련시키나요?
Azure AI 모델 유추는 고객 데이터를 사용하여 모델을 재학습하지 않으며 고객 데이터는 모델 공급자와 공유되지 않습니다.
고객 저작권 약정
고객 저작권 약정에 따라 적용 범위에 속하려면 어떻게 해야 하나요?
고객 저작권 약정은 출력 콘텐츠와 관련된 특정 비 Microsoft 지적 재산권 클레임에 대해 고객을 방어해야 하는 Microsoft의 의무를 설명하는 Microsoft 제품 약관인 2023년 12월 1일에 포함될 조항입니다. 클레임의 주체가 Azure OpenAI 서비스(또는 고객이 안전 시스템을 구성할 수 있는 기타 적용 대상 제품)에서 생성된 출력 콘텐츠인 경우 적용 범위를 받으려면 고객은 출력 콘텐츠를 제공하는 제품에서 Azure OpenAI 서비스 설명서에 필요한 모든 완화를 구현해야 합니다. 필요한 완화 방법은 여기에 문서화되어 있으며 지속적으로 업데이트됩니다. 새 서비스, 기능, 모델 또는 사용 사례의 경우 새 CCC 요구 사항이 게시되며 이러한 서비스, 기능, 모델 또는 사용 사례가 출시될 때 또는 그 이후에 적용됩니다. 그렇지 않으면 고객은 게시 시점으로부터 6개월 이내에 CCC의 적용 범위에 속하기 위해 새로운 완화를 구현합니다. 고객이 클레임을 제안하는 경우 고객은 관련 요구 사항 준수를 입증해야 합니다. 고객이 Azure OpenAI 서비스를 포함하여 안전 시스템을 구성할 수 있도록 하는 적용 대상 제품에는 이러한 완화가 필요합니다. 다른 적용 대상 제품을 사용하는 고객의 적용 범위에는 영향을 주지 않습니다.