모델 선택 및 온도 설정
프롬프트 빌더에서 프롬프트 작업을 생성하면 오른쪽 패널에 설정 섹션이 포함됩니다. 이 섹션에서는 다음 매개 변수를 설정할 수 있습니다.
- 생성형 AI 모델 버전
- Temperature
이 문서에서는 이러한 매개 변수의 영향을 살펴봅니다.
생성형 AI 모델 버전
드롭다운 메뉴를 사용하면 사용자 지정 프롬프트에 대한 답변을 생성하는 생성형 AI 모델 중에서 선택할 수 있습니다.
2024년 11월 현재 기본 모델은 GPT 4o Mini(일반 공급 또는 GA)입니다. 더 강력한 GPT 4o 모델(GA)을 사용할 수도 있습니다. 이러한 모델의 정확한 마이너 버전은 변경될 수 있습니다.
Power Apps 또는 Power Automate에서 프롬프트 작업을 사용하면 AI Builder 크레딧이 소비됩니다.
참고
이 기본 모델 GPT 3.5 모델을 사용하는 프롬프트 빌더에서 생성된 이전 프롬프트는 GPT 4o Mini 모델로 자동 업그레이드되었거나 자동 업그레이드될 예정입니다. 정부 클라우드는 2024년 11월 말까지 GPT 3.5 모델을 계속 사용합니다.
모델 선택
상태 및 라이선스 규칙에 따라 모델 중에서 선택합니다.
| GPT 모델 | Status | 라이선스 규칙 | 기능 | 사용 가능 지역 |
|---|---|---|---|---|
| GPT 4o Mini | GA - 기본 모델 | Power Apps 및 Power Automate에서 크레딧을 소비합니다. 추가 정보: Power Platform 라이선싱 가이드 | 2023년 12월까지의 데이터로 학습되었습니다. 컨텍스트는 최대 128,000개의 토큰까지 허용됩니다. | 프롬프트에 대한 지역별 기능 가용성 |
| GPT 4 | GA | Power Apps 및 Power Automate에서 크레딧을 소비합니다. 추가 정보: Power Platform 라이선싱 가이드 | GPT 4o는 2023년 10월까지의 지식을 가지고 있으며 컨텍스트 길이는 128k 토큰입니다. | 프롬프트에 대한 지역별 기능 가용성 |
기능과 시나리오에 따라 모델 중에서 선택합니다.
GPT-4o Mini와 GPT-4o의 비교
| 요인 | GPT-4o Mini | GPT-4o |
|---|---|---|
| 비용 | 더 낮은 비용 효율적 | 더 높은 프리미엄 가격 책정 |
| 실적 | 대부분의 작업에 적합 | 복잡한 작업에 탁월 |
| 속도 | 보다 빠른 처리 | 복잡성으로 인해 속도가 느려질 수 있음 |
| 사용 사례 | 요약, 정보 작업 | 복잡한 데이터 분석, 추론 및 콘텐츠 생성 작업 |
의사 결정 내러티브
적당히 복잡한 작업을 위한 비용 효율적인 솔루션이 필요하거나 컴퓨팅 리소스가 제한되어 있거나 더 빠른 처리가 필요한 경우 GPT-4o Mini를 선택하십시오. 예산 제약이 있는 프로젝트와 고객 지원 또는 효율적인 코드 분석과 같은 애플리케이션에 이상적입니다.
우수한 성능과 상세한 분석이 필요한 매우 복잡한 다중 모드 작업을 처리하는 경우 GPT-4o를 선택하세요. 정확성과 고급 기능이 중요한 대규모 프로젝트에 더 나은 선택입니다. 더 나은 선택인 또 다른 시나리오는 이를 지원할 예산과 계산 리소스가 있는 경우입니다. GPT-4o는 시간이 지남에 따라 복잡성이 증가할 수 있는 장기 프로젝트에도 적합합니다.
Microsoft Copilot Studio의 컨텍스트에서 AI 프롬프트 사용
AI 프롬프트는 Copilot Studio의 컨텍스트에 있을 때 AI Builder 크레딧을 사용하지 않지만 GA GPT 모델을 기반으로 할 때 메시지를 사용합니다.
Power Platform 라이선스 가이드에서 메시지 소비에 대해 자세히 알아보세요.
Temperature
슬라이더를 사용하면 생성형 AI 모델의 온도를 선택할 수 있습니다. 이는 0과 1 사이에서 다양하며 생성형 AI 모델이 얼마나 많은 창의성(1)과 결정론적 답변(0)을 제공해야 하는지에 대해 안내합니다.
온도는 AI 모델에서 생성된 출력의 무작위성을 제어하는 매개 변수입니다. 온도가 낮을수록 더 예측 가능하고 보수적인 출력이 생성됩니다. 비교해 보면 온도가 높을수록 반응의 창의성과 다양성이 더 높아집니다. 이는 모델 출력의 무작위성과 결정성 사이의 균형을 미세 조정하는 방법입니다.
이전에 생성된 프롬프트에서와 같이 기본 온도는 0입니다.
| Temperature | 기능 | 에서 사용 |
|---|---|---|
| 12 | 보다 예측 가능하고 보수적인 결과. 응답이 더 일관됩니다. |
높은 정확성과 적은 변동성을 요구하는 프롬프트입니다. |
| 6 | 응답의 창의성과 다양성이 향상됩니다. 더 다양하고 때로는 더 혁신적인 응답. |
새로운 기본 콘텐츠를 생성하라는 메시지 |
온도를 조정하면 모델의 출력에 영향을 미칠 수 있지만 특정 결과를 보장하지는 않습니다. AI의 반응은 본질적으로 확률적이며 동일한 온도 설정에서도 달라질 수 있습니다.