Azure OpenAI Service 액세스

2분

Azure OpenAI를 사용하여 생성 AI 솔루션을 빌드하는 첫 번째 단계는 Azure 구독에서 Azure OpenAI 리소스를 프로비전하는 것입니다. Azure Portal 리소스를 만들거나 Azure CLI(명령줄 인터페이스)를 사용하여 시작할 수 있습니다.

Azure Portal에서 Azure OpenAI Service 리소스 만들기

Azure OpenAI Service 리소스를 만들 때 구독 이름, 리소스 그룹 이름, 지역, 고유한 인스턴스 이름을 제공하고 가격 책정 계층을 선택해야 합니다.

Azure OpenAI Service 리소스를 만드는 Azure Portal 페이지의 스크린샷

Azure CLI에서 Azure OpenAI Service 리소스 만들기

CLI에서 Azure OpenAI Service 리소스를 만들려면 이 예제를 참조하고 다음 변수를 사용자 고유의 변수로 바꿉니다.

MyOpenAIResource: 리소스 그룹의 고유한 이름으로 바꿉니다.
OAIResourceGroup: 리소스 그룹 이름으로 대체합니다.
eastus: 리소스를 배포할 지역으로 바꿉니다.
subscriptionID: 구독 ID로 바꿉니다.

az cognitiveservices account create \
-n MyOpenAIResource \
-g OAIResourceGroup \
-l eastus \
--kind OpenAI \
--sku s0 \
--subscription subscriptionID

참고

az account list-locations CLI 명령을 통해 서비스 이용 가능 지역을 찾을 수 있습니다. Azure에 로그인하고 CLI를 통해 Azure 그룹을 만드는 방법을 보려면 여기에서 설명서를 참조하세요. Azure OpenAI Service는 여러 모델 유형에 액세스를 제공합니다. 특정 모델은 일부 지역에서만 사용할 수 있습니다. 지역 가용성은 Azure OpenAI 모델 가용성 가이드를 참조하세요. 지역당 두 개의 Azure OpenAI 리소스를 만들 수 있습니다.

Azure OpenAI 파운드리 사용

Azure AI 파운드리는 모델 관리, 배포, 실험, 사용자 지정 및 학습 리소스에 대한 액세스를 제공합니다.

리소스를 만든 후 Azure Portal을 통해 또는 https://ai.azure.com/에 Azure 계정에 로그인하여 Azure AI 파운드리에 액세스할 수 있습니다. 로그인 워크플로 중에 적절한 디렉터리, Azure 구독 및 Azure OpenAI 리소스를 선택합니다.

Azure AI 파운드리를 처음 열 때 Azure OpenAI Service 모델에만 집중하는 Azure OpenAI 페이지로 이동하여 아직 리소스를 선택하지 않은 경우 첫 번째 모델을 배포해야 합니다. 이렇게 하려면 기본 모델을 배포하고 실험을 시작할 수 있는 배포 페이지를 선택합니다.

참고 항목

리소스 소유자가 아닌 경우 다음 역할 기반 액세스 제어가 필요합니다. 1. Cognitive Services OpenAI 사용자: 이 역할을 통해 리소스를 보고 채팅 플레이그라운드를 사용할 수 있습니다. 2. Cognitive Services OpenAI 기여자: 이 역할을 통해 사용자가 새 배포를 만들 수 있습니다.

페이지의 Azure AI 파운드리 포털 메뉴 스크린샷.

OpenAI 모델 유형

Azure OpenAI를 사용하여 빌드를 시작하려면 기본 모델을 선택하고 배포해야 합니다. Microsoft는 기본 모델과 사용자 지정된 기본 모델을 만드는 옵션을 제공합니다. 이 단원에서는 현재 사용 가능한 기본 모델을 다룹니다.

Azure OpenAI에는 다음과 같은 여러 유형의 모델이 포함됩니다.

GPT-4 모델은 자연어 프롬프트를 기반으로 자연어 및 코드 완성을 생성할 수 있는 최신 세대의 GPT(Generative Pretrained Transformer) 모델입니다.
GPT 3.5 모델은 자연어 프롬프트를 기반으로 자연어 및 코드 완성을 생성할 수 있습니다. 특히 GPT-35-turbo 모델은 채팅 기반 상호 작용에 최적화되어 있으며 대부분의 생성 AI 시나리오에서 잘 작동합니다.
Embeddings 모델은 텍스트를 숫자 벡터로 변환하며 텍스트 원본의 유사성 비교와 같은 언어 분석 시나리오에서 유용합니다.
DALL-E 모델은 자연어 프롬프트를 기반으로 이미지를 생성하는 데 사용됩니다. 현재 DALL-E 모델은 미리 보기로 제공됩니다.
위스퍼 모델은 음성을 텍스트로 변환하는 데 사용됩니다.
텍스트 음성 변환 모델은 텍스트를 음성으로 변환하는 데 사용됩니다.

참고 항목

가격 책정은 토큰 및 모델 유형별로 결정됩니다. 여기에서 최신 가격 책정에 대해 자세히 알아보세요.

Azure AI 파운드리 포털의 모델 카탈로그 페이지에는 사용 가능한 기본 모델이 나열되고 기본 모델을 미세 조정하여 사용자 지정된 모델을 추가로 만드는 옵션이 제공됩니다. 성공 상태의 모델은 성공적으로 학습되었음을 의미하며 배포를 위해 선택할 수 있습니다.

모델 카탈로그에는 Microsoft, Meta, Mistral 등의 모델을 포함하여 OpenAI 외에도 다양한 모델을 사용할 수 있다는 것을 알 수 있습니다. Azure AI 파운드리를 사용하면 사용 사례에 대해 이러한 모델을 배포할 수 있습니다. 이 모듈은 Azure OpenAI 모델에 중점을 둡다.

Azure AI 파운드리 포털의 기본 생성 AI 모델의 스크린샷.

OpenAI 모델 배포

먼저 대화할 모델을 배포하거나 API 호출을 통해 프롬프트에 대한 응답을 수신해야 합니다. 새 배포를 만들 때 배포할 기본 모델을 나타내야 합니다. TPM(분당 토큰)이 배포 할당량 내에서 유지되는 한 배포 횟수에 제한 없이 배포할 수 있습니다.

Azure AI 파운드리를 사용하여 배포

Azure AI 파운드리 포털의 모델 카탈로그 페이지에서 목록에서 모델 이름을 선택하여 새 배포를 만들 수 있습니다.

Azure CLI를 사용하여 배포

콘솔을 사용하여 모델을 배포할 수도 있습니다. 이 예제를 사용하여 다음 변수를 사용자 고유의 리소스 값으로 바꿉니다.

OAIResourceGroup: 리소스 그룹 이름으로 대체합니다.
MyOpenAIResource: 리소스 이름으로 대체
MyModel: 모델의 고유한 이름으로 대체합니다.
gpt-35-turbo: 배포하려는 기본 모델로 바꾸기

az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0125"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

REST API를 사용하여 배포

REST API를 사용하여 모델을 배포할 수 있습니다. 요청 본문에서 배포하려는 기본 모델을 지정합니다. Azure OpenAI 설명서의 예제를 참조하세요.

OpenAI 프롬프트 탐색

모델이 배포되면 프롬프트를 완료하는 방법을 테스트할 수 있습니다. 프롬프트는 배포된 모델의 완료 엔드포인트로 전송되는 요청의 텍스트 부분입니다. 응답을 완료라고 하며, 이는 텍스트, 코드 또는 기타 형식의 형태로 제공됩니다.

프롬프트 형식

프롬프트는 작업에 따라 요청 유형으로 그룹화할 수 있습니다.

작업 유형	프롬프트 예제	완료 예제
콘텐츠 분류	트윗: 나는 여행을 즐겼다. 감정:	양수
새 콘텐츠 생성	여행 방법 나열	1. 자전거 2. 자동차 ...
대화 유지	친절한 AI 도우미	예시 참조
변환(번역 및 기호 변환)	영어: 안녕하세요 프랑스어:	bonjour
콘텐츠 요약	콘텐츠 요약을 제공합니다. {text}	콘텐츠는 기계 학습의 방법을 공유합니다.
중단한 위치에서 다시 시작	토마토를 재배하는 한 가지 방법은	씨앗을 심는 것입니다.
사실적 응답 제공	지구에는 몇 개의 달이 있습니까?	하나

완료 품질

몇 가지 요인은 생성 AI 솔루션에서 얻을 수 있는 완료 품질에 영향을 줍니다.

프롬프트가 엔지니어링되는 방식입니다. 이 모듈의 뒷부분에 있는 프롬프트 엔지니어링 단위의 프롬프트 엔지니어링에 대해 자세히 알아보세요.
모델 매개 변수(다음에 설명됨).
모델이 학습된 데이터는 사용자 지정으로 모델 미세 조정을 통해 조정할 수 있습니다.

프롬프트 엔지니어링 및 매개 변수 조정보다 사용자 지정 모델을 학습하여 반환되는 완료를 더 많이 제어할 수 있습니다.

API 호출

배포된 모델에 대한 호출은 REST API, Python 또는 C#을 통해 시작할 수 있습니다. 배포된 모델에 GPT-3.5 또는 GPT-4 모델 기반이 있는 경우에는 이러한 기반 모델에 필요한 엔드포인트 및 변수가 있는 채팅 완성 설명서를 사용하세요.

Azure Studio 플레이그라운드 사용

플레이그라운드는 자체 클라이언트 응용 프로그램을 개발할 필요 없이 배포된 모델을 실험하는 데 사용할 수 있는 Azure AI 파운드리의 유용한 인터페이스입니다. Azure AI 파운드리 포털은 다양한 매개 변수 튜닝 옵션이 있는 여러 플레이그라운드를 제공합니다.

채팅 플레이그라운드

채팅 플레이그라운드는 대화형 메시지 출력 인터페이스를 기반으로 합니다. 시스템 메시지를 사용하여 세션을 초기화하고 채팅 컨텍스트를 설정할 수 있습니다.

채팅 플레이그라운드에서 프롬프트 샘플을 사용하고, 매개 변수를 조정하고, 퓨샷 예제를 추가할 수 있습니다. 퓨샷이라는 용어는 모델이 수행해야 하는 작업을 학습하는 데 도움이 되는 몇 가지 예제를 제공하는 것을 의미합니다. 예를 제공하지 않는 것을 의미하는 제로 샷과 대조해서 생각할 수 있습니다.

Azure AI 파운드리 포털의 채팅 플레이그라운드 스크린샷.