Использование контейнеров служб ИИ Azure

Завершено

Существуют образы контейнеров для служб ИИ Azure в реестре контейнеров Майкрософт, которые можно использовать для развертывания контейнерной службы, которая инкапсулирует отдельный API службы ИИ Azure.

Чтобы развернуть и использовать контейнер служб ИИ Azure, необходимо выполнить следующие три действия:

  1. Образ контейнера для конкретного API служб искусственного интеллекта Azure, который вы хотите использовать, загружается и развертывается на узле контейнера, например на локальном сервере Docker, экземпляре контейнера Azure (ACI) или Служба Azure Kubernetes (AKS).
  2. Клиентские приложения передают данные в конечную точку, предоставляемую контейнерной службой, и извлекают результаты так же, как и из облачного ресурса служб искусственного интеллекта Azure в Azure.
  3. Периодически метрики использования для контейнерной службы отправляются в ресурс служб искусственного интеллекта Azure в Azure, чтобы вычислить выставление счетов для службы.

A diagram of an Azure AI services container deployed to a container host and consumed by a client application.

Даже при использовании контейнера необходимо подготовить ресурс служб ИИ Azure в Azure для выставления счетов. Клиентские приложения отправляют свои запросы в контейнерную службу, что означает, что потенциально конфиденциальные данные не отправляются в конечную точку служб ИИ Azure в Azure; но контейнер должен иметь возможность подключаться к ресурсу служб искусственного интеллекта Azure в Azure периодически, чтобы отправлять метрики использования для выставления счетов.

Образы контейнеров служб искусственного интеллекта Azure

Каждый контейнер предоставляет подмножество функций служб ИИ Azure. Например, не все функции службы языка ИИ Azure находятся в одном контейнере. Определение языка, перевод и анализ тональности — это отдельные образы контейнеров. Однако порядок настройки для каждого контейнера одинаковый.

Контейнеры для работы с языком

Для службы языка ИИ основные функции сопоставляют с отдельными изображениями:

Функция Изображения
Извлечение ключевых фраз mcr.microsoft.com/azure-cognitive-services/textanalytics/keyphrase
Распознавание языка mcr.microsoft.com/azure-cognitive-services/textanalytics/language
Анализ тональности mcr.microsoft.com/azure-cognitive-services/textanalytics/sentiment
Распознавание именованных сущностей mcr.microsoft.com/product/azure-cognitive-services/textanalytics/language/about
Анализ текста для сферы здравоохранения mcr.microsoft.com/product/azure-cognitive-services/textanalytics/healthcare/about
Переводчик mcr.microsoft.com/product/azure-cognitive-services/translator/text-translation/about
Сводка mcr.microsoft.com/azure-cognitive-services/textanalytics/summarization

Примечание.

Анализ тональности поддерживает другие языки. Для этого замените EN в образе на требуемый код языка

Контейнеры Речи

Функция Изображения
Преобразование речи в текст mcr.microsoft.com/product/azure-cognitive-services/speechservices/speech-to-text/about
Настраиваемое преобразование речи в текст mcr.microsoft.com/product/azure-cognitive-services/speechservices/custom-speech-to-text/about
Нейронный текст для речи mcr.microsoft.com/product/azure-cognitive-services/speechservices/neural-text-to-speech/about
Распознавание языка речи mcr.microsoft.com/product/azure-cognitive-services/speechservices/language-detection/about

Контейнеры Компьютерного зрения

Функция Изображения
Чтение OCR mcr.microsoft.com/product/azure-cognitive-services/vision/read/about
Пространственный анализ mcr.microsoft.com/product/azure-cognitive-services/vision/spatial-analysis/about

Вы можете использовать команду Docker pull, чтобы скачать контейнеры для работы с ними непосредственно с компьютера. Некоторые контейнеры находятся в состоянии открытой общедоступной ознакомительной версии, и вам необходимо явно запрашивать доступ для их использования. В противном случае контейнеры доступны для всех пользователей, которые будут использоваться при развертывании служб ИИ Azure.

Полный список доступных в настоящее время образов контейнеров служб ИИ Azure и заметок для каждого из них см . в тегах образов контейнеров служб ИИ Azure и заметках о выпуске.

Конфигурация контейнера служб искусственного интеллекта Azure

При развертывании образа контейнера служб искусственного интеллекта Azure на узле необходимо указать три параметра.

Параметр Description
ApiKey Ключ из развернутой службы ИИ Azure; используется для выставления счетов.
Выставление счетов URI конечной точки из развернутой службы ИИ Azure; используется для выставления счетов.
Eula Значение accept указывает принятие условий лицензии для контейнера.

Использование служб ИИ Azure из контейнера

После развертывания контейнера служб ИИ Azure приложения используют контейнерную конечную точку служб ИИ Azure, а не конечную точку Azure по умолчанию. Клиентское приложение должно быть настроено с соответствующей конечной точкой для контейнера, но для него не требуется предоставлять ключ подписки для проверки подлинности. Вы можете реализовать собственное решение проверки подлинности и применить ограничения безопасности сети в соответствии с конкретным сценарием приложения.