Выбор модели и настройка температуры

Когда вы создаете действие запроса в конструкторе запросов, на панели справа появляется раздел Параметры. В этом разделе вы можете задать следующие параметры:

• Версия модели генеративного ИИ
• Температура

В этой статье описывается влияние этих параметров.

Версии моделей генеративного ИИ

Раскрывающееся меню позволяет вам выбирать модель генеративного ИИ, которая генерируют ответ на ваш пользовательский запрос.

Модель по умолчанию по состоянию на ноябрь 2024 года — GPT 4o Mini (общедоступная версия, "GA"). Также можно использовать более мощную модель GPT 4o (GA). Эти дополнительные версии этих моделей могут быть изменены.

При использовании действий запросов в Power Apps или Power Automate они потребляют кредиты AI Builder.

Заметка

Более старые запросы, созданные в конструкторе запросов, которые полагаются на эту модель по умолчанию GPT 3.5, были или будут автоматически обновлены до модели GPT 4o Mini. В облаке для государственных организаций модель GPT 3.5 будет использоваться до конца ноября 2024 года.

Выберите модель

Модели выбираются в зависимости от состояния и правил лицензирования.

Модель GPT	Status	Правила лицензирования	Функциональные возможности	Доступность по регионам
GPT 4o Mini	Общедоступная версия — модель по умолчанию	Потребляет кредиты в Power Apps и Power Automate. Дополнительные сведения: Руководство по лицензированию Power Platform	Обучение на данных до декабря 2023 года. Контекст допускает до 128 тыс. токенов.	Доступность функций по регионам для запросов
GPT 4	Общедоступная версия	Потребляет кредиты в Power Apps и Power Automate. Дополнительные сведения: Руководство по лицензированию Power Platform	Модель GPT 4o имеет знания до октября 2023 года и имеет длину контекста 128 тыс. токенов.	Доступность функций по регионам для запросов

Модели выбираются в зависимости от возможностей и сценариев.

Сравнение GPT-4o Mini и GPT-4o

Факторы	GPT-4o Mini	GPT-4o
Себестоимость	Ниже, более экономичная	Выше, премиальные цены
Производительность	Подходит для большинства задач	Превосходно подходит для сложных задач
Скорость	Ускоренная обработка	Может быть медленнее из-за сложности
Варианты использования	Резюмирование, информационные задачи	Сложные задачи по анализу данных, рассуждению и созданию контента

Повествовательное принятие решений

Если вам нужно экономичное решение для умеренно сложных задач, у вас ограниченные вычислительные ресурсы или требуется более быстрая обработка, выбирайте GPT-4o Mini. Эта модель идеально подходит для проектов с ограниченным бюджетом и таких применений, как поддержка клиентов или эффективный анализ кода.

Если вы имеете дело с очень сложными, мультимодальными задачами, требующими превосходной производительности и детального анализа, выбирайте GPT-4o. Эта модель — лучший выбор для крупномасштабных проектов, где точность и расширенные возможности имеют решающее значение. Другой сценарий, в котором это лучший выбор, — когда у вас есть бюджет и вычислительные ресурсы для поддержки модели. Модель GPT-4o также предпочтительна для долгосрочных проектов, сложность которых может расти с течением времени.

Использование запросов ИИ в контексте Microsoft Copilot Studio

Запросы ИИ не потребляют кредиты AI Builder в контексте Copilot Studio, но используют сообщения, если они созданы на основе модели общедоступной версии GPT.

Чтобы узнать больше о потреблении сообщений, перейдите к руководству по лицензированию Power Platform.

Температура

Ползунок позволяет выбрать температуру модели генеративного ИИ. Он варьируется от 0 до 1 и указывает модели генеративного ИИ баланс между креативностью (1) и детерминированным ответом (0).

Температура — это параметр, который управляет случайностью выходных данных, генерируемых моделью ИИ. Более низкая температура приводит к более предсказуемым и консервативным результатам. Для сравнения: более высокая температура позволяет проявить больше креативности и разнообразия в ответах. Это способ точно настроить баланс между случайностью и детерминизмом в выходных данных модели.

По умолчанию температура равна 0, как и в ранее созданных запросах.

Температура	Функция	Использование в
0	Более предсказуемые и консервативные результаты. Ответы более последовательны.	Запросы, требующие высокой точности и меньшей вариативности.
1	Больше креатива и разнообразия в ответах. Более разнообразные, а иногда и более инновационные ответы.	Запросы, которые создают новый стандартный контент

Хотя регулировка температуры может повлиять на выходные данные модели, она не гарантирует конкретного результата. Ответы ИИ по своей сути вероятностны и могут меняться даже при одной и той же настройке температуры.