Поделиться через

Масштабируемость и производительность

  • Статья

Внимание

Начиная с 20 сентября 2023 г. вы не сможете создавать новые ресурсы Персонализатора. Служба Персонализатора отменяется 1 октября 2026 года.

Для высокопроизводительных веб-сайтов и приложений с большой пропускной способностью два стоит учесть два основных фактора, касающихся Персонализатора и обеспечения масштабируемости и производительности:

  • Сохранение низкой задержки при выполнении вызовов API ранжирования.
  • Уверенность, что пропускная способность обучения адаптируется к входным данным событий.

Персонализация может очень быстро возвращать оценку ранжирования, при этом большая часть продолжительности вызова выделяется для обмена данными через REST API. Azure выполнит автомасштабирование способности быстро отвечать на запросы.

Сценарии с низкой задержкой

Некоторым приложениям требуется низкая задержка при возврате оценки. Низкие задержки необходимы в следующих случаях.

  • Чтобы избавить пользователя от длительного ожидания перед отображением ранжированного содержимого.
  • Чтобы помочь серверу с максимальным трафиком избежать прерываний дефицитного времени вычислений и сетевых подключений.

Масштабируемость и пропускная способность обучения

Персонализатор работает, обновляя модель, переобученную на основе отправленных асинхронно сообщений с помощью Персонализатора, после API ранжирования и вознаграждения. Сообщений отправляются с помощью концентратора событий Azure для приложения.

Большинство приложений скорее всего не достигнут максимального лимита пропускной способности для присоединений и обучения Персонализатора. И хотя достижение этого максимума не замедлит работу приложения, оно будет означать, что очереди концентратора событий заполняются внутри быстрее, чем очищаются.

Как оценить требования к пропускной способности

  • Оцените среднее число байт на ранжированное событие, добавляя длины документов JSON контекста и действия.
  • Разделите 20 МБ в секунду на это расчетное среднее число байт.

Например, если средние полезные данные содержат 500 компонентов, причем каждый состоит из 20 знаков, то каждое событие — это приблизительно 10 КБ. При таких оценках получается 20 000 000/10 000 = 2000 событий в секунду, а это около 173 миллионов событий в день.

Если вы достигните этих ограничений, обратитесь в службу поддержки для получения совета по архитектуре.

Следующие шаги

Personalizer settings (Параметры Персонализатора)