생성 AI 모델 배포
먼저 대화할 모델을 배포하거나 API 호출을 통해 프롬프트에 대한 응답을 수신해야 합니다. 새 배포를 만들 때 배포할 기본 모델을 나타내야 합니다. TPM(분당 토큰)이 배포 할당량 내에 유지되는 한 하나 이상의 Azure OpenAI 리소스에 배포할 수 있습니다.
Azure AI Studio를 사용하여 배포
Azure AI Studio의 배포 페이지에서 메뉴에서 모델 이름을 선택하여 새 배포를 만들 수 있습니다. 사용 가능한 기본 모델은 모델 페이지의 목록에서 제공됩니다.
Studio의 배포 페이지에서 배포 이름, 모델 이름, 모델 버전, 상태, 만든 날짜 등을 비롯한 모든 배포에 대한 정보를 볼 수도 있습니다.
Azure CLI를 사용하여 배포
콘솔을 사용하여 모델을 배포할 수도 있습니다. 이 예제를 사용하여 다음 변수를 사용자 고유의 리소스 값으로 바꿉니다.
- OAIResourceGroup: 리소스 그룹 이름으로 대체합니다.
- MyOpenAIResource: 리소스 이름으로 바꾸기
- MyModel: 모델의 고유한 이름으로 대체합니다.
- gpt-35-turbo: 배포하려는 기본 모델로 바꾸기
az cognitiveservices account deployment create \
-g OAIResourceGroup \
-n MyOpenAIResource \
--deployment-name MyModel \
--model-name gpt-35-turbo \
--model-version "0301" \
--model-format OpenAI \
--sku-name "Standard" \
--sku-capacity 1
REST API를 사용하여 배포
REST API를 사용하여 모델을 배포할 수 있습니다. 요청 본문에서 배포하려는 기본 모델을 지정합니다. Azure OpenAI 설명서의 예제를 참조하세요.