Wybór modelu i ustawienia temperatury

Gdy w konstruktorze monitów zostanie wyświetlone działanie niestandardowe, panel po prawej stronie zawiera sekcję Ustawienia. W tej sekcji można ustawić następujące parametry:

• Wersja modelu generatywnej AI
• Temperatura

W tym artykule badamy wpływ tych parametrów.

Generatywne wersje modeli AI

Menu rozwijane umożliwia wybranie pozycji spośród generowanie modeli AI, które generują odpowiedź na monit niestandardowy.

Domyślnym modelem od listopada 2024 r. jest GPT 4o Mini (ogólna dostępność lub GA). Możliwe jest również korzystanie z bardziej wydajnego modelu GPT 4o (GA). Dokładne pomniejsze wersje tych modeli mogą ulec zmianie.

W przypadku korzystania z akcji prompt w Power Apps lub Power Automate, zużywają one kredyty AI Builder.

Uwaga

Starsze monity utworzone w kreatorze monitów, które opierają się na domyślnym modelu GPT 3.5, zostały lub zostaną automatycznie zaktualizowane do modelu GPT 4o Mini. Chmura rządowa nadal korzysta z modelu GPT 3.5 do końca listopada 2024 roku.

Wybierz model

Do wyboru są modele oparte na stanie, regułach licencjonowania.

Model GPT	Status	Reguły licencjonowania	Funkcje	Dostępność w regionach
GPT 4o Mini	Ogólnie dostępny — model domyślny	Zużywa środki w Power Apps i Power Automate. Więcej informacji: Przewodnik licencjonowania Power Platform	Szkolony na danych do grudnia 2023 r. Kontekst dozwolony do 128 000 tokenów.	Dostępność funkcji według regionów dla promptów
GPT 4	Ogólna dostępność	Zużywa środki w Power Apps i Power Automate. Więcej informacji: Przewodnik licencjonowania Power Platform	GPT 4o ma wiedzę do października 2023 r. i ma długość kontekstu 128 tys. tokenów.	Dostępność funkcji według regionów dla promptów

Wybierz model w oparciu o możliwości i scenariusze.

Porównanie GPT-4o Mini i GPT-4o

Czynniki	GPT-4o Mini	GPT-4o
Koszt	Niższy, bardziej ekonomiczny	Wyższe ceny premium
Wydajność	Nadaje się do większości zadań	Doskonały do złożonych zadań
Szybkość	Szybsze przetwarzanie	Może być wolniejszy ze względu na złożoność
Przypadki użycia	Podsumowanie, zadania informacyjne	Złożone zadania związane z analizą danych, rozumowaniem i tworzeniem treści

Narracja decyzyjna

Jeśli potrzebujesz ekonomicznego rozwiązania do umiarkowanie złożonych zadań, masz ograniczone zasoby obliczeniowe lub potrzebujesz szybszego przetwarzania, wybierz GPT-4o Mini. Jest to idealne rozwiązanie dla projektów z ograniczonym budżetem i zastosowań takich jak obsługa klienta lub wydajna analiza kodu.

Jeśli masz do czynienia z bardzo złożonymi, multimodalnymi zadaniami, które wymagają doskonałej wydajności i szczegółowej analizy, wybierz GPT-4o. Jest to lepszy wybór w przypadku dużych projektów, w których dokładność i zaawansowane możliwości mają kluczowe znaczenie. Innym scenariuszem, w którym lepszym wyborem jest budżet i zasoby obliczeniowe, aby go obsługiwać. GPT-4o jest również preferowany w przypadku długoterminowych projektów, które z czasem mogą stawać się coraz bardziej złożone.

Korzystanie z monitów AI w kontekście Microsoft Copilot Studio

Monity AI nie zużywają środków AI Builder w kontekście Copilot Studio, ale zużywają komunikaty, gdy są one wbudowane w ogólnodostępny model GPT.

Aby dowiedzieć się więcej o zużywaniu komunikatów, przejdź do Przewodnika licencjonowania Power Platform.

Temperatura

Suwak pozwala wybrać temperaturę w modelu generatywnej AI. Różni się ona między wartościami 0 i 1, i prowadzi model generatywnej AI w zakresie tego, jaką kreatywność (1) i poziom determinizmu (0) powinna zapewniać odpowiedź.

Temperatura to parametr sterujące losowym parametrem wyjściowym wygenerowanym przez model AI. Obniżenie temperatury powoduje, że wyniki pracy są bardziej przewidywalne i konserwatywne. Dla porównania wysoka temperatura pozwala na większą kreatywność i różnorodność w odpowiedziach. Jest to sposób na dostrojenie równowagi między losowością i determinizmem wartości wyjściowej modelu.

Domyślnie wartość temperatury ma ustawienie 0, tak jak w utworzonych wcześniej monitach.

Temperatura	Funkcje	Używanie w usłudze
0	Bardziej przewidywalne i konserwatywne wartości wyjściowe. Odpowiedzi są bardziej spójne.	Monity wymagające wysokiej dokładności i mniejszej zmienności.
1	Większa kreatywność i różnorodność w odpowiedziach. Bardziej zróżnicowane i czasami bardziej innowacyjne odpowiedzi.	Monity tworzące nową, gotową zawartość

Korygowanie temperatury wpływa na wydajność modelu, ale nie gwarantuje określonego wyniku. Odpowiedzi AI są z natury probabilistyczne i mogą się różnić nawet w przypadku tego samego ustawienia temperatury.