Средство запроса потоков на портале Azure AI Foundry

Статья
10/17/2024

Внимание

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

Средство запроса потока запросов предлагает коллекцию текстовых шаблонов, которые служат отправной точкой для создания запросов. Эти шаблоны, основанные на обработчике шаблонов Jinja , упрощают определение запросов. Средство оказывается полезным при необходимости настройки запроса перед отправкой запросов в большую языковую модель (LLM) в потоке запросов.

Необходимые компоненты

Подготовка запроса. Средство LLM и средство запроса поддерживают шаблоны Jinja .

В этом примере запрос включает синтаксис шаблонов Jinja для динамического создания приветственного сообщения и персонализации его на основе имени пользователя. В нем также представлено меню параметров для пользователя, чтобы выбрать один из вариантов. В зависимости от того, указана ли user_name переменная, она обращается к пользователю по имени или использует универсальное приветствие.

Welcome to {{ website_name }}!
{% if user_name %}
    Hello, {{ user_name }}!
{% else %}
    Hello there!
{% endif %}
Please select an option from the menu below:
1. View your account
2. Update personal information
3. Browse available products
4. Contact customer support

Дополнительные сведения и рекомендации см. в статье "Технические методы запроса".

Создание с помощью средства запроса

Создайте или откройте поток в Azure AI Foundry. Дополнительные сведения см. в разделе "Создание потока".
Нажмите кнопку +Запрос , чтобы добавить средство запроса в поток.
Введите значения входных параметров средства запроса, описанных в таблице "Входные данные". Сведения о подготовке входных данных запроса см. в разделе "Предварительные требования".
Добавьте дополнительные средства (например , средство LLM) в поток по мере необходимости. Или нажмите кнопку "Выполнить" , чтобы запустить поток.
Выходные данные описаны в таблице выходных данных.

Входные данные

Доступны следующие входные параметры.

Имя.	Тип	Описание	Обязательное поле
prompt	строка	Шаблон запроса в Jinja.	Да
Входные данные	-	Список переменных шаблона запроса и его назначений.	-

Выходные данные

Пример 1

Входные данные:

«Переменная»	Тип	Пример значения
website_name	строка	"Майкрософт"
user_name	строка	"Джейн"

Выходные данные:

Welcome to Microsoft! Hello, Jane! Please select an option from the menu below: 1. View your account 2. Update personal information 3. Browse available products 4. Contact customer support

Пример 2