Доступ к службе OpenAI Azure
Первым шагом в создании создаваемого решения искусственного интеллекта с помощью Azure OpenAI является подготовка ресурса Azure OpenAI в подписке Azure. Вы можете приступить к работе, создав ресурс в портал Azure или с помощью интерфейса командной строки Azure (CLI).
Создание ресурса службы Azure OpenAI в портал Azure
При создании ресурса службы Azure OpenAI необходимо указать имя подписки, имя группы ресурсов, регион, уникальное имя экземпляра и выбрать ценовую категорию.
Создание ресурса службы Azure OpenAI в Azure CLI
Чтобы создать ресурс Службы Azure OpenAI из интерфейса командной строки, ознакомьтесь с этим примером и замените следующие переменные собственными:
- MyOpenAIResource: замените уникальным именем ресурса
- OAIResourceGroup: замените имя группы ресурсов
- eastus: замените регионом для развертывания ресурса
- subscriptionID: замените идентификатор подписки
az cognitiveservices account create \
-n MyOpenAIResource \
-g OAIResourceGroup \
-l eastus \
--kind OpenAI \
--sku s0 \
--subscription subscriptionID
Примечание.
Регионы, доступные для службы, можно найти с помощью команды az account list-locationsCLI. Чтобы узнать, как войти в Azure и создать группу Azure с помощью интерфейса командной строки, см . документацию здесь. Служба Azure OpenAI предоставляет доступ ко многим типам моделей. Некоторые модели доступны только в определенных регионах. Сведения о доступности для регионов см. в руководстве по доступности моделей Azure OpenAI. Вы можете создать два ресурса Azure OpenAI для каждого региона.
Использование Azure OpenAI Foundry
Azure AI Foundry предоставляет доступ к управлению моделями, развертыванию, экспериментам, настройке и ресурсам обучения.
Вы можете получить доступ к Azure AI Foundry через портал Azure после создания ресурса или https://ai.azure.com/ при входе в учетную запись Azure. Во время рабочего процесса входа выберите соответствующий каталог, подписку Azure и ресурс Azure OpenAI.
При первом открытии Azure AI Foundry вы хотите перейти на страницу Azure OpenAI (где вы сосредоточены только на моделях Azure OpenAI ), выберите ресурс, если вы еще не сделали этого, и развернете первую модель. Для этого выберите страницу "Развертывания" , где можно развернуть базовую модель и начать экспериментировать с ней.
Примечание.
Если вы не являетесь владельцем ресурсов, вам потребуется следующее управление доступом на основе ролей: 1. Пользователь OpenAI в Cognitive Services: эта роль позволяет просматривать ресурсы и использовать игровую площадку чата. 2. Участник OpenAI в Cognitive Services: эта роль позволяет пользователю создавать новые развертывания.
Типы моделей OpenAI
Чтобы начать сборку с Помощью Azure OpenAI, необходимо выбрать базовую модель и развернуть ее. Корпорация Майкрософт предоставляет базовые модели и возможность создания настраиваемых базовых моделей. В этом уроке рассматриваются доступные в настоящее время базовые модели.
Azure OpenAI включает несколько типов моделей:
- Модели GPT-4 — это последнее поколение готовых моделей, которые могут создавать завершения естественного языка и кода на основе запросов естественного языка.
- Модели GPT 3.5 могут генерировать естественный язык и завершение кода на основе подсказок на естественном языке. В частности, модели GPT-35-turbo оптимизированы для взаимодействия на основе чата и хорошо работают в большинстве сценариев создания ИИ.
- Модели векторных представлений преобразуют текст в числовые векторы и полезны в сценариях языковой аналитики, таких как сравнение источников текста на предмет сходства.
- Модели DALL-E используются для генерирования изображений на основе подсказок на естественном языке. В настоящее время модели DALL-E находятся на стадии предварительной версии.
- Модели whisper используются для преобразования речи в текст.
- Модели преобразования текста в речь используются для преобразования текста в речь.
Примечание.
Цены определяются маркерами и типом модели. Узнайте больше о последних ценах здесь.
На портале Azure AI Foundry на странице каталога моделей перечислены доступные базовые модели и предоставляется возможность создания дополнительных настраиваемых моделей путем точной настройки базовых моделей. Модели, имеющие состояние "Успешно выполнено ", означают, что они успешно обучены и могут быть выбраны для развертывания.
Вы заметите, что существуют различные модели за пределами OpenAI, доступные в каталоге моделей, включая модели от Майкрософт, Мета, Мистраль и многое другое. Azure AI Foundry позволяет развертывать любую из этих моделей для вашего варианта использования. Этот модуль будет сосредоточен на моделях Azure OpenAI.
Развертывание моделей OpenAI
Сначала необходимо развернуть модель для чата или вызова API для получения ответов на запросы. При создании нового развертывания необходимо указать, какую базовую модель необходимо развернуть. Вы можете развернуть любое количество развертываний до тех пор, пока их токены в минуту (TPM) остаются в квоте развертывания.
Развертывание с помощью Azure AI Foundry
На странице каталога моделей портала Azure AI Foundry можно создать новое развертывание, выбрав имя модели из списка.
Развертывание с помощью Azure CLI
Вы также можете развернуть модель с помощью консоли. В этом примере замените следующие переменные собственными значениями ресурсов:
- OAIResourceGroup: замените имя группы ресурсов
- MyOpenAIResource: замените имя ресурса
- MyModel: замените уникальное имя модели
- gpt-35-turbo: замените базовую модель, которую вы хотите развернуть.
az cognitiveservices account deployment create \
-g OAIResourceGroup \
-n MyOpenAIResource \
--deployment-name MyModel \
--model-name gpt-35-turbo \
--model-version "0125" \
--model-format OpenAI \
--sku-name "Standard" \
--sku-capacity 1
Развертывание с помощью REST API
Модель можно развернуть с помощью REST API. В тексте запроса укажите базовую модель, которую вы хотите развернуть. Пример см. в документации по Azure OpenAI.
Просмотр запросов OpenAI
После развертывания модели можно проверить, как она завершает запросы. Запрос — это текстовая часть запроса, отправляемого в конечную точку завершения развернутой модели. Ответы называются завершениями, которые могут поступать в виде текста, кода или других форматов.
Типы запросов
Запросы можно сгруппировать в типы запросов на основе задачи.
| Тип задачи | Пример запроса | Пример завершения |
|---|---|---|
| Классификация содержимого | Твит: Я наслаждался поездкой. Тональность: |
Положительные |
| Создание нового содержимого | Перечисление способов перемещения | 1. Велосипед 2. Автомобиль ... |
| Проведение беседы | Удобный помощник по искусственному интеллекту | См. примеры |
| Преобразование (преобразование и преобразование символов) | Английский: Hello Французский: |
bonjour |
| Сводка содержимого | Укажите сводку содержимого {text} |
Содержимое использует методы машинного обучения. |
| Получение места, где вы оставили | Один из способов выращивать помидоры | — сеять семена. |
| Предоставление фактических ответов | Сколько лун имеет Земля? | Единица |
Качество завершения
Некоторые факторы влияют на качество завершений, которые вы получите из созданного решения искусственного интеллекта.
- Способ инженера запроса. Дополнительные сведения о проектировании запросов см. в уроке инженерии запроса далее в этом модуле.
- Параметры модели (описанные ниже).
- Данные, с которыми обучена модель, которую можно адаптировать с помощью точной настройки модели с помощью настройки.
У вас есть больше контроля над завершениями, возвращаемыми обучением настраиваемой модели, чем с помощью командной инженерии и корректировки параметров.
Выполнение вызовов API
Вы можете начать вызывать развернутую модель с помощью REST API, Python или C#. Если развернутая модель имеет базу модели GPT-3.5 или GPT-4, используйте документацию по завершению чата, которая содержит конечные точки и переменные, необходимые для этих базовых моделей.
Использование игровых площадок Azure Studio
Игровые площадки — это полезные интерфейсы в Azure AI Foundry, которые можно использовать для экспериментов с развернутыми моделями, не требуя разработки собственного клиентского приложения. Портал Azure AI Foundry предлагает несколько игровых площадк с различными параметрами настройки параметров.
Детская площадка чата
Игровая площадка чата основана на интерфейсе беседы, выходе из сообщения. Вы можете инициализировать сеанс с помощью системного сообщения, чтобы настроить контекст чата.
На игровой площадке чата вы можете использовать примеры запросов, настроить параметры и добавить несколько примеров. Термин с несколькими выстрелами относится к предоставлению нескольких примеров, чтобы помочь модели узнать, что нужно сделать. Вы можете подумать об этом в отличие от нуля выстрела, который ссылается на отсутствие примеров.
