Compartir a través de

Serie NCads H100 v5

  • Artículo

Se aplica a: ✔️ Máquinas virtuales Linux ✔️ Máquinas virtuales Windows ✔️ Conjuntos de escalado flexibles ✔️ Conjuntos de escalado uniformes

Las máquinas virtuales (VM) de la serie NCads H100 v5 son una nueva adición a la familia de GPU de Azure. Puede usar esta serie para cargas de trabajo reales de entrenamiento e inferencia por lotes de Azure Applied AI Services. Las máquinas virtuales de la serie NCads H100 v5 están potenciadas por la GPU NVIDIA H100 NVL y los procesadores AMD EPYC™ Genoa de 4.ª generación. Las máquinas virtuales incluyen hasta 2 GPU de NVIDIA H100 NVL con 94 GB de memoria cada una, hasta 96 núcleos de procesador AMD EPYC Genoa sin multiproceso, y 640 GiB de memoria del sistema. Estas máquinas virtuales son ideales para cargas de trabajo de IA aplicada del mundo real, como:

  • Bases de datos y análisis acelerados mediante GPU
  • Inferencia por lotes con un procesamiento previo y posterior intensivo
  • Entrenamiento del modelo de autonomía
  • Simulación de depósitos de petróleo y gas
  • Desarrollo de aprendizaje automático (ML)
  • Procesamiento de vídeo
  • Servicios web de IA/ML

Características admitidas

Para empezar a trabajar con las máquinas virtuales NCads H100 v5, vea Configuración y optimización de cargas de trabajo de HPC para conocer los pasos que incluyen la configuración del controlador y la red.

Debido a la mayor superficie de E/S de memoria en la GPU, la serie NCads H100 v5 necesita el uso de máquinas virtuales de generación 2 y de imágenes de marketplace. Siga las instrucciones de Imágenes de Azure HPC para la configuración.

Size vCPU Memoria (GiB) NVMe de disco temporal (GiB) GPU Memoria de GPU (GiB) Discos de datos máx. Rendimiento de disco no en caché máx. (E/S por segundo/Mbps) Número máximo de NIC/Ancho de banda de red (Mbps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40 000
Standard_NC80adis_H100_v5 80 640 7 152 2 188 16 240000/7000 4/80 000

1 1 GPU = una tarjeta H100
2 Los discos NVMe locales son efímeros. Los datos se pierden en estos discos si detiene o desasigna la VM. Los discos NVMe locales no se cifran mediante el cifrado de Azure Storage, ni siquiera si habilita el cifrado en el host.

Definiciones de tabla de tamaño

  • La capacidad de almacenamiento se muestra en unidades de GiB o 1024^3 bytes. Cuando compare discos que se miden en GB (1000^3 bytes) con discos que se miden en GiB (1024^3), recuerde que los números que representan la capacidad en GiB pueden parecer más pequeños. Por ejemplo, 1023 GiB = 1098,4 GB.

  • Se midió el rendimiento de disco en operaciones de entrada/salida por segundo (E/S por segundo) y MBps, donde Mbps = 10^6 bytes/s.

  • Los discos de datos pueden funcionar en modo en caché o en modo no en caché. En el caso de la operación de disco de datos en caché, el modo de caché del host está establecido en ReadOnly o ReadWrite. En el caso de la operación de disco de datos no en caché, el modo de caché del host está definido en None.

  • Para obtener información sobre cómo obtener el mejor rendimiento de almacenamiento para las VM, consulte Rendimiento de la máquina virtual y del disco.

  • El ancho de banda de red esperado es el ancho de banda agregado máximo asignado por tipo de máquina virtual en todas las NIC y para todos los destinos. Para más información, consulte Ancho de banda de red de las máquinas virtuales.

    No se garantizan los límites superiores. Los límites ofrecen una guía para seleccionar el tipo de máquina virtual adecuado para la aplicación prevista. El rendimiento de red real dependerá de diversos factores (como, por ejemplo, la congestión de la red, las cargas de la aplicación y la configuración de red). Para más información sobre cómo optimizar el rendimiento de red, consulte Optimización del rendimiento de red en las máquinas virtuales de Azure. Para lograr el rendimiento de red esperado en Linux o Windows, puede que deba seleccionar una versión específica u optimizar la máquina virtual. Para obtener más información, vea Pruebas de ancho de banda y rendimiento (NTTTCP).

Otros tamaños e información

Puede usar la calculadora de precios para calcular los costos de las máquinas virtuales de Azure.

Para obtener más información sobre los tipos de discos, vea ¿Qué tipos de disco están disponibles en Azure?.

Paso siguiente