Руководство по развертыванию корпоративного веб-приложения чата

Внимание

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

В этой статье вы развернете корпоративное веб-приложение чата, которое использует собственные данные с большой языковой моделью на портале AI Foundry.

Источник данных используется для создания модели с определенными данными. Приземление означает, что модель использует данные для понимания контекста вашего вопроса. Вы не изменяете развернутую модель. Данные хранятся отдельно и безопасно в исходном источнике данных

Последовательность действий будет следующей:

1. Разверните и протестируйте модель чата без данных.
2. Добавьте данные.
3. Проверьте модель с данными.
4. Разверните веб-приложение.

Необходимые компоненты

• Подписка Azure — создайте бесплатную учетную запись.

• Развернутая модель чата Azure OpenAI . Выполните краткое руководство по созданию этого ресурса, если вы еще не сделали этого.

• Подключение azure AI служба для индексирования примеров данных продукта.

• Локальная копия данных продукта. Репозиторий Azure-Samples/rag-data-openai-python-promptflow на GitHub содержит примеры сведений о розничном продукте, которые относятся к этому сценарию руководства. В частности, product_info_11.md файл содержит сведения о продукте о походной обуви TrailWalker, которая относится к этому примеру руководства. Скачайте пример данных о розничных продуктах Contoso Trek в ZIP-файле на локальный компьютер.

• Поставщик ресурсов Microsoft.Web , зарегистрированный в выбранной подписке, чтобы иметь возможность развертывания в веб-приложении.

Добавьте данные и повторите попытку модели чата

В кратком руководстве по игровой площадке AI Foundry (это обязательное условие для этого руководства), обратите внимание на то, как модель реагирует без данных. Теперь вы добавите данные в модель, чтобы ответить на вопросы о продуктах.

Для выполнения этого раздела потребуется локальная копия данных продукта. Репозиторий Azure-Samples/rag-data-openai-python-promptflow на GitHub содержит примеры сведений о розничном продукте, которые относятся к этому сценарию руководства. В частности, product_info_11.md файл содержит сведения о продукте о походной обуви TrailWalker, которая относится к этому примеру руководства. Скачайте пример данных о розничных продуктах Contoso Trek в ZIP-файле на локальный компьютер.

Выполните следующие действия, чтобы добавить данные на площадку чата, чтобы помочь помощнику ответить на вопросы о продуктах. Вы не изменяете развернутую модель. Данные хранятся отдельно и безопасно в подписке Azure.

1. Перейдите к проекту в Azure AI Foundry.

2. Выберите игровые площадки.

3. Выберите "Попробовать игровую площадку чата".

4. Выберите развернутую модель чата в раскрывающемся списке развертывания .

   

5. В левой части игровой площадки чата нажмите кнопку "Добавить данные>+ Добавить новый источник данных".

   

6. В раскрывающемся списке источника данных выберите " Отправить файлы".

   

7. Выберите "Отправить>файлы", чтобы просмотреть локальные файлы.

8. Выберите файлы, которые нужно отправить. Выберите файлы сведений о продукте, скачанные или созданные ранее. Добавьте все файлы. Вы не сможете добавлять дополнительные файлы позже в том же сеансе игровой площадки.

9. Выберите " Отправить ", чтобы отправить файл в учетную запись хранения BLOB-объектов Azure. Затем выберите Далее.

   

10. Выберите служба ИИ Azure. В этом примере выберите "Подключить другой ресурс поиска ИИ Azure" в раскрывающемся списке "Выбор ИИ Azure" служба . Если у вас нет ресурса поиска, его можно создать, нажав кнопку "Создать новый ресурс поиска ИИ Azure". Затем вернитесь к этому шагу, чтобы подключиться и выбрать его.

    

11. Найдите служба ИИ Azure и нажмите кнопку "Добавить подключение".

    

12. В поле "Векторный индекс" введите сведения о продукте и нажмите кнопку "Далее".

13. На странице параметров поиска в разделе "Векторные параметры" установите флажок "Добавить векторный поиск" в этот ресурс поиска. Этот параметр помогает определить, как модель реагирует на запросы. Затем выберите Далее.

    Примечание.

    Если добавить векторный поиск, дополнительные параметры будут доступны здесь для дополнительной стоимости.

14. Просмотрите параметры и выберите "Создать векторный индекс".

15. На детской площадке вы увидите, что прием данных выполняется. Этот процесс может занять несколько минут. Прежде чем продолжить, подождите, пока не увидите имя источника данных и индекса вместо состояния.

    

16. Теперь вы можете общаться с моделью, задавая тот же вопрос, что и раньше ("Сколько это походная обувь TrailWalker"), и на этот раз он использует информацию из данных для создания ответа. Чтобы просмотреть используемые данные, можно развернуть кнопку ссылок .

Развертывание веб-приложения

Когда вы удовлетворены опытом работы на портале Azure AI Foundry, вы можете развернуть модель в качестве автономного веб-приложения.

Поиск группы ресурсов в портал Azure

В этом руководстве веб-приложение развертывается в той же группе ресурсов, что и центр ИИ Foundry. Позже вы настроите проверку подлинности для веб-приложения в портал Azure.

Выполните следующие действия, чтобы перейти из Azure AI Foundry в группу ресурсов в портал Azure:

1. Перейдите к проекту в Azure AI Foundry. Затем выберите центр управления в левой области.

2. В разделе "Заголовок проекта" выберите "Обзор".

3. Выберите имя группы ресурсов, чтобы открыть группу ресурсов в портал Azure. В этом примере группа ресурсов называется rg-contoso.

   

4. Теперь вы должны находиться в портал Azure, просматривая содержимое группы ресурсов, в которой вы развернули концентратор. Откройте эту страницу на вкладке браузера. Вы вернеесь к нему позже.

Развертывание веб-приложения

Публикация создает службу приложение Azure в подписке. Это может привести к затратам в зависимости от выбранного плана ценообразования. После завершения работы с приложением его можно удалить из портал Azure.

Чтобы развернуть веб-приложение, выполните следующие действия.

Примечание.

Поставщик ресурсов Microsoft.Web должен быть зарегистрирован в выбранной подписке, чтобы иметь возможность развертывания в веб-приложении.

1. Выполните действия, описанные в предыдущем разделе, чтобы добавить данные на игровую площадку.

   Примечание.

   Вы можете развернуть веб-приложение с собственными данными или без нее, но по крайней мере вам нужна развернутая модель, как описано в кратком руководстве по игровой площадке AI Foundry.

2. Выберите " Развернуть > ... в качестве веб-приложения.

   

3. На странице развертывания в веб-приложении введите следующие сведения:

   • Имя: уникальное имя веб-приложения.
   • Подписка. Ваша подписка Azure.
   • Группа ресурсов: выберите группу ресурсов, в которой необходимо развернуть веб-приложение. Вы можете использовать ту же группу ресурсов, что и концентратор.
   • Расположение. Выберите расположение, в котором будет развернуто веб-приложение. Вы можете использовать то же расположение, что и концентратор.
   • Тарифный план: выберите план ценообразования для веб-приложения.
   • Включить журнал чата в веб-приложении: в этом руководстве не выбрано поле журнала чата. Если включить эту функцию, пользователи получат доступ к отдельным предыдущим запросам и ответам. Дополнительные сведения см . в примечаниях журнала чатов.

4. Выберите Развернуть.

5. Дождитесь развертывания приложения, которое может занять несколько минут.

6. Когда он будет готов, кнопка "Запустить " включена на панели инструментов. Но еще не запускайте приложение и не закрывайте страницу игровой площадки чата - вы вернеесь к нему позже.

Настройка проверки подлинности веб-приложения

По умолчанию веб-приложение будет доступно только для вас. В этом руководстве описано, как добавить проверку подлинности, чтобы ограничить доступ к приложению членам клиента Azure. Пользователям предлагается войти с помощью учетной записи Microsoft Entra, чтобы получить доступ к приложению. Вы можете следовать аналогичному процессу, чтобы добавить другого поставщика удостоверений, если вы предпочитаете. Приложение не использует сведения о входе пользователя другим способом, кроме проверки того, что они член вашего клиента.

1. Вернитесь на вкладку браузера, содержащую портал Azure (или повторно откройте портал Azure на новой вкладке браузера) и просмотрите содержимое группы ресурсов, в которой вы развернули концентратор и веб-приложение (может потребоваться обновить представление веб-приложения).

2. Выберите Служба приложений ресурс из списка ресурсов в группе ресурсов.

3. В раскрывающемся меню слева в разделе "Параметры" выберите "Проверка подлинности".

   

4. Добавьте поставщика удостоверений со следующими параметрами:

   • Поставщик удостоверений: выберите Корпорацию Майкрософт в качестве поставщика удостоверений. Параметры по умолчанию на этой странице ограничивают приложение только вашим клиентом, поэтому вам не нужно ничего другого здесь изменить.
   • Тип клиента: Рабочая сила
   • Регистрация приложений: создание регистрации приложения
   • Имя: имя службы веб-приложения
   • Поддерживаемые типы учетных записей: текущий клиент — один клиент
   • Ограничение доступа: требуется проверка подлинности
   • Запросы, не прошедшие проверку подлинности: HTTP 302 Найден перенаправление — рекомендуется для веб-сайтов

Использование веб-приложения

Осталось совсем немного! Теперь вы можете протестировать веб-приложение.

1. Подождите 10 минут или так, чтобы параметры проверки подлинности вступают в силу.

2. Вернитесь на вкладку браузера, содержащую страницу игровой площадки чата на портале Azure AI Foundry.

3. Выберите "Запустить ", чтобы запустить развернутый веб-приложение. При появлении запроса примите запрос разрешений.

   Если параметры проверки подлинности еще не ввели силу, закройте вкладку браузера для веб-приложения и вернитесь на площадку чата на портале Azure AI Foundry. Затем подождите немного дольше и повторите попытку.

4. В веб-приложении вы можете задать тот же вопрос, что и раньше ("Сколько это походная обувь TrailWalker"), и на этот раз он использует информацию из данных для создания ответа. Чтобы просмотреть используемые данные, можно развернуть кнопку ссылки .

   

Общие сведения об журнале чата

С помощью функции журнала чата пользователи получат доступ к своим отдельным предыдущим запросам и ответам.

Журнал чатов можно включить при развертывании веб-приложения. Установите флажок "Включить журнал чата" в веб-приложении.

Внимание

Включение журнала чата приведет к созданию экземпляра Cosmos DB в группе ресурсов и повлечет за собой дополнительные расходы на используемое хранилище. Удаление веб-приложения не удаляет экземпляр базы данных Cosmos автоматически. Чтобы удалить экземпляр базы данных Cosmos вместе со всеми сохраненными чатами, вам необходимо перейти к связанному ресурсу на портале Azure и удалить его.

После включения журнала чата пользователи смогут отображать и скрывать его в правом верхнем углу приложения. При отображении журнала они могут переименовать или удалить беседы. Так как они вошли в приложение, беседы будут автоматически упорядочены от самых новых до старых и именованы на основе первого запроса в беседе.

Если удалить ресурс Cosmos DB, но сохранить параметр журнала чата в студии, пользователи получат уведомление об ошибке подключения, но могут продолжать использовать веб-приложение без доступа к журналу чата.

Очистка ресурсов

Чтобы избежать ненужных затрат Azure, следует удалить ресурсы, созданные в этом кратком руководстве, если они больше не нужны. Для управления ресурсами можно использовать портал Azure.

Связанный контент

• Начало создания приложения чата с помощью пакета SDK для потока запросов
• Создайте пользовательское приложение чата с помощью пакета SDK для Искусственного интеллекта Azure..