Поделиться через

Переход на подготовленные резервирования службы OpenAI Azure

  • Статья

Azure представила новые резервирования развертывания глобальной и зоны данных, подготовленные для службы Azure OpenAI. Эти новые варианты обеспечивают большую гибкость и масштабируемость, позволяя получить доступ к нужным моделям и масштабировать подготовленные единицы пропускной способности (PTUS) для поддержки роста использования. Кроме того, корпорация Майкрософт объявила о более низких почасовых ценах и минимальных минимумах развертывания для новых типов развертывания, хотя цены на ежемесячные и ежегодные резервирования остаются неизменными.

С этими изменениями Azure ожидает более эффективного обслуживания ваших изменяющихся потребностей. Если вы используете региональные подготовленные развертывания, вы можете найти, что переход на подготовленные глобальные или зоны данных предоставляет значительные преимущества. Это руководство поможет вам понять процесс перехода, включая перенос приложений и развертываний, а также переход существующих резервирований, охватывающих развертывания.

Изменения подготовленных служб Azure OpenAI

  • В сентябре 2024 года Azure запустила глобальные подготовленные резервирования развертывания.
  • В декабре 2024 года Azure запустила резервирования подготовленных зон данных.
  • Хотя большинство клиентов в настоящее время находятся в региональных подготовленных развертываниях, развернутые глобальные и подготовленные зоны данных могут лучше соответствовать вашим потребностям, если вы хотите:
    • Доступ к нужной модели.
    • Масштабируемые ПТП для поддержки роста использования.
  • Для подготовленных глобальных и зон данных корпорация Майкрософт объявила о более низких почасовых ценах и минимальных минимумах развертывания. Нет изменений в цене за ежемесячные и ежегодные резервирования с этим объявлением.
  • При запуске подготовленных глобальных и зон данных Azure теперь предлагает службы, которые лучше соответствуют вашим потребностям.

Переход с региональных на глобальные или подготовленные зоны данных

Если вы хотите перейти от регионального подготовленного развертывания к развертываниям глобальной или зоны данных, необходимо перенести приложение или развертывания на стороне службы. Кроме того, необходимо перейти к резервированиям, если таковые охватывают эти развертывания.

Переход развертываний служб Azure OpenAI из региона в глобальную или глобальную или зону данных

Если вы используете существующие развертывания Azure OpenAI Service Regional Provisioned, существует два варианта перехода на зону данных или глобальные типы развертывания:

Вариант 1. Без простоя

  1. Создайте новое развертывание с помощью глобальной подготовленной службы Azure OpenAI или типа подготовленного зоны данных в требуемом ресурсе Службы OpenAI Azure.
  2. Переход трафика из существующего развертывания Azure OpenAI Service Regional Provisioned в только что созданное развертывание Службы OpenAI Azure или зона данных, подготовленное до тех пор, пока весь трафик не будет загружен из развертывания региональной подготовки.
  3. Удалите существующее развертывание региональной подготовки.

Вариант 2. Время простоя

  1. Убедитесь, что все запросы API службы OpenAI Azure остановлены в развертывании Azure OpenAI Service Regional Provisioned.
  2. Удалите существующее развертывание региональной подготовки.
  3. Создайте новое развертывание с помощью глобальной подготовленной службы Azure OpenAI или типа подготовленного зоны данных в требуемом ресурсе Службы OpenAI Azure.

Переход подготовленных резервирований службы Azure OpenAI из региона в глобальную или глобальную или зону данных

  • Сначала необходимо решить, сколько ПТП необходимо сохранить в подготовленном региональном развертывании. Затем определите, сколько ПТП перемещается в подготовленные развертывания глобальной или зоны данных.
  • Из этих развертываний необходимо решить, сколько необходимо получить в резервированиях, чтобы получить скидку на цену.
  • Резервирования для глобальных, зон данных и региональных развертываний не изменяются. Необходимо приобрести отдельное резервирование для каждого типа развертывания.
  • При наличии региональных подготовленных развертываний и необходимости перехода на подготовленные глобальные или зоны данных оба типа развертываний могут существовать в течение короткого периода времени для переноса приложений. Это приводит к правильному размеру подготовленных региональных развертываний.
  • На основе требуемого состояния окончания (развертывания в регионе, зоне данных и глобальной) необходимо отменить существующие резервирования и приобрести новые резервирования, охватывающие развертывания.
  • Это может привести к одному из двух сценариев:
    • Перекрытие существующих и недавно приобретенных резервирований, что приводит к сбору за оба.
    • Период времени между отменой существующих резервирований и приобретением новых резервирований, в результате чего развертывание взимается по часовой ставке (вместо цены на резервирование, так как не было бы никаких резервирований, охватывающих эти развертывания).
    • В любом случае это не считается двойным выставлением счетов, но важно перейти с одного развертывания на другое.
  • Тщательное планирование перехода развертываний и переход резервирования свести к минимуму расходы.
    • При переходе развертываний убедитесь, что администратор резервирования понимает требуемое конечное состояние. Затем можно отменить и приобрести нужное количество единиц резервирования для соответствующих типов развертывания.
    • Избегайте почасовой платы за развертывания, гарантируя, что все развертывания имеют соответствующее резервирование.
    • Избегайте резервирования заранее, чтобы предотвратить расходы на развертывания, которые еще не активны.
    • Отмена резервирований, которые не охватывают какие-либо развертывания.
  • Отмена существующего регионального резервирования утверждена при покупке новых резервирований глобальной или зоны данных для замены или обмена существующими резервированиями.

    Примечание.

    Отмены поддерживаются в течение ограниченного времени. Вы должны остановить автоматическое продление резервирований для подготовленных региональных резервирований, если хотите перейти на глобальные или зоны данных.

Сценарий 1. Ежегодные резервирования

  1. Отмените существующие подготовленные региональные резервирования для количества ПТП, которые требуется перенести в глобальную или зону данных.

  2. Чтобы охватить развертывания, которые требуется перенести, приобретите соответствующие резервирования глобальной или зоны данных.

    Например, предположим, что у вас есть 300 ПТП для регионального развертывания. Вы решили перенести 200 PTUS в зону данных и сохранить оставшееся 100 в региональном развертывании. Кроме того, предположим, что у вас есть одно или несколько резервирований для покрытия всех существующих региональных развертываний 300.

    1. Чтобы объединить и перестроить резервирования, необходимо отменить существующие резервирования для 300 PTUS.
    2. Чтобы покрыть развертывания 200 зон данных, приобретите резервирование зоны данных.
    3. Приобретение регионального резервирования для покрытия 100 региональных развертываний.

  3. Если вы считаете, что возникла ошибка или кредитная счет, можно создать запрос на поддержку.

Сценарий 2. Ежемесячные резервирования

В этом сценарии есть два варианта:

Вариант 1 . Рекомендуется для одного ежемесячного резервирования

  1. Пусть срок действия текущих ежемесячных резервирований истекает самостоятельно. Например, остановите автоматическое продление существующих резервирований.

  2. Чтобы объединить и перестроить резервирования, приобретите соответствующие глобальные, зоны данных или региональные резервирования. Они охватывают развертывания, на которые вы хотите перейти.

    Например, предположим, что у вас есть 300 ПТП для регионального развертывания. Вы решили перенести 200 PTUS в зону данных и сохранить оставшееся 100 в региональном развертывании. Кроме того, предположим, что у вас есть одно резервирование для покрытия всех существующих региональных развертываний 300.

    1. Чтобы перестроить резервирования, необходимо остановить автоматическое продление существующего резервирования, охватывающего 300 PTUS.
    2. В тот же или следующий день, когда срок действия резервирования истекает, приобретите резервирование зоны данных для покрытия развертываний 200 зон данных. Приобретение регионального резервирования для покрытия 100 региональных развертываний.
    3. Время новых покупок правильно помогает избежать перекрытия резервирований или взиматься почасовой оплаты по мере использования.

  3. Если вы считаете, что возникла ошибка или кредитная счет, можно создать запрос на поддержку.

Вариант 2 . Рекомендуется для нескольких ежемесячных резервирований

Важная информация

Предупреждение

Если вы отменяете текущие резервирования PTU, но не приобретаете новые резервирования глобальной или зоны данных PTU, то плата взимается почасовой цене.

Вы можете отменить резервирования самостоятельно, если сумма меньше или равна $ 50 000. В противном случае необходимо обратиться к поддержка Azure, чтобы запросить отмену. Чтобы обратиться в службу поддержки отмены, см . запрос на поддержку.

Отмены поддерживаются в течение ограниченного времени. Вы должны остановить автоматическое продление резервирований для подготовленных региональных резервирований, если вы хотите перейти на глобальные или зоны данных.

Связанный контент