Виртуальные машины серии NCads H100 версии 5 являются новым дополнением к семейству GPU Azure. Вы можете использовать эту серию для реальных рабочих нагрузок прикладного ИИ Azure для обучения и пакетных выводов.
Виртуальные машины серии NCads H100 v5 используются процессорами NVIDIA H100 NVL GPU и процессорами AMD EPYC™ Genoa 4-го поколения. Виртуальные машины имеют до 2 процессоров NVIDIA H100 NVL с 94 ГБ памяти каждый, до 96 непоточных процессоров AMD EPYC Genoa и 640 ГиБ системной памяти.
Эти виртуальные машины идеально подходят для реальных рабочих нагрузок прикладного ИИ, таких как:
Аналитика и базы данных с ускорением GPU
Пакетный вывод с существенной предварительной и последующей обработкой
Обучение модели автономности
Моделирование нефтяных и газовых резервуаров
Разработка машинного обучения (ML)
Обработка видео
Веб-службы ИИ и машинного обучения
Спецификации узлов
Часть
Количество
Подсчет единиц
Очки
Идентификатор SKU, единицы производительности и т. д.
Процессор
40 — 80 виртуальных ЦП
AMD EPYC (Genoa) [x86-64]
Память
320 - 640 ГиБ
Локальное хранилище
1 диск
3576 - 7152 ГиБ Операции ввода-вывода в секунду (RR) MBps (RR)
Удаленное хранилище
8 – 16 дисков
100000 – 240000 операций ввода-вывода в секунду 3000 – 7000 МБИТ/с
Скорость 1временных дисков часто отличается от операций RR (случайного чтения) и RW (случайной записи). Операции RR обычно быстрее, чем операции RW. Скорость RW обычно медленнее скорости RR в рядах, где указано только значение скорости RR.
Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
1Некоторые размеры поддерживают ускорение , чтобы временно увеличить производительность диска. Скорость ускорения может поддерживаться до 30 минут за раз.
Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования узла следует задать значение ReadOnly или ReadWrite. Чтобы не использовать кэширование диска данных, для режима кэширования узла следует задать значение None.
Ожидаемая пропускная способность сети — это максимальная совокупная пропускная способность, выделенная на каждый тип виртуальной машины по всем сетевым адаптерам для всех назначений. Дополнительные сведения см. в разделе " Пропускная способность сети виртуальной машины"
Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure.
Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).
Сведения об акселераторе (GPU, FPGAs и т. д.) для каждого размера