Поделиться через


Акселератор целевой зоны Azure Управление API

Акселератор целевой зоны Azure Управление API предоставляет архитектурный подход и эталонную реализацию для подготовки подписок целевой зоны для масштабируемой инфраструктуры Управление API. Реализация соответствует архитектуре и рекомендациям платформы Cloud Adoption Framework для целевых зон Azure с акцентом на принципах проектирования целевых зон корпоративного масштаба.

Клиенты принимают Управление API различными способами. Эту архитектуру можно использовать в качестве руководства по проектированию для реализации зеленых полей и в качестве оценки реализаций браунфилда, которые уже используют Управление API. Вы можете адаптировать эталонную реализацию для создания архитектуры, которая соответствует рабочей нагрузке и помещает организацию на путь к устойчивому масштабированию.

Предоставленная инфраструктура в виде шаблона кода (IaC) может быть изменена, чтобы соответствовать соглашениям об именовании, использовать существующие ресурсы, такие как агенты Azure DevOps и Azure Key Vault, и расширить их до разных внутренних серверов. Например, можно добавить подключения к API, размещенным в службе приложение Azure или Служба Azure Kubernetes (AKS).

Реализация основы платформы

Акселератор целевой зоны Управление API предполагает, что фундамент платформы находится на месте. Эта основа обрабатывает такие общие службы, как сеть, безопасность, удостоверения и службы управления. Эти службы необходимы для эффективного создания и эксплуатации целевой зоны корпоративного масштаба и обеспечения успешной реализации. Эта платформа не является обязательной при реализации акселератора целевой зоны Управление API, но она обрабатывает большую часть безопасности и управления, необходимых для безопасного управления облачной средой. Если она у вас уже есть, перейдите к следующему шагу. Дополнительные сведения см. в следующих статьях:

Что предоставляет акселератор целевой зоны Управление API

Подход акселератора целевой зоны предоставляет несколько сценариев и эти ресурсы для поддержки проекта:

  • Модульный подход, позволяющий настраивать переменные среды.

  • Рекомендации по проектированию для оценки критически важных решений.

  • Архитектура целевой зоны.

  • Реализация, которая включает:

    • Развертываемая ссылка, которая может создать развертывание Управление API с безопасной базовой конфигурацией без внутренних конц и примера API.

    • Утвержденная корпорацией Майкрософт Управление API эталонная реализация для тестирования развернутой среды.

    • Сценарий создания шлюза искусственного интеллекта, который развертывается на основе безопасного базового плана. Развертывание предоставляет конечные точки службы Azure OpenAI в качестве серверной части и подготавливает клиентский API, который может обрабатывать несколько функций разгрузки шлюза. К ответственности относятся балансировка нагрузки нескольких конечных точек Azure OpenAI, использование маркеров отслеживания, реализация ограничения адаптивной скорости и управление пиками с помощью моделей оплаты по мере использования.

Рекомендации по проектированию

В следующих статьях приведены рекомендации по созданию целевой зоны на основе областей проектирования целевых зон Azure:

Пример концептуальной эталонной архитектуры

Следующая концептуальная эталонная архитектура — это пример, в котором описываются области проектирования и рекомендации.

Схема с архитектурой акселератора целевой зоны Управление API.

Эта архитектура состоит из Управление API, развернутых в виртуальной сети в внутреннем режиме, и выполняется Шлюз приложений.

Сценарий создания шлюза искусственного интеллекта

Пример кода для создания шлюза ИИ описывает, как подготавливать и взаимодействовать с созданными ресурсами ИИ с помощью Управление API. Разгрузка шлюза — это распространенный шаблон проектирования при взаимодействии с созданными моделями искусственного интеллекта. Дополнительные сведения об этом шаблоне см. в статье Access Azure OpenAI и другие языковые модели через шлюз. Реализация находится на вершине Управление API базовых показателей и включает частные развертывания конечных точек Azure OpenAI. Кроме того, она включает в себя политики Управление API специально адаптированы для вариантов использования генерированного искусственного интеллекта.

Используйте руководство по развертыванию для развертывания частных конечных точек Azure OpenAI и набора политик в Управление API для управления трафиком к этим конечным точкам. Проверьте политики, отправляя запросы в шлюз. Необходимо использовать предоставленные фрагменты политики или изменить решение, чтобы включить собственные пользовательские политики.

Схема, показывающая управление ресурсами искусственного интеллекта с помощью Управление API.

Рекомендуемый подход к реализации предприятия — начать с целевой зоны Azure, чтобы обеспечить соответствие масштабируемости, управления и безопасности с рекомендациями Cloud Adoption Framework. Если вы планируете начать базовую интеграцию с Azure OpenAI в целевой зоне Azure, выполните действия, описанные в базовом плане Azure OpenAI в целевой зоне приложения.

Развертывание акселератора целевой зоны Управление API

Реализация акселератора целевой зоны Управление API с шаблонами IaC доступна на сайте GitHub.

Следующий шаг

Рассмотрение факторов проектирования для управления удостоверениями и доступом в целевых зонах Azure.