Serie ND-H100-v5-grootten
De virtuele machine (VM) uit de ND H100 v5-serie is een nieuwe vlaggenschip-toevoeging aan de Azure GPU-serie. Deze serie is ontworpen voor geavanceerde Deep Learning-training en nauw gekoppelde omhoog- en uitschalende AI- en HPC-workloads.
De ND H100 v5-serie begint met één VM en acht NVIDIA H100 Tensor Core GPU's. Op ND H100 v5 gebaseerde implementaties kunnen worden geschaald tot duizenden GPU's met 3,2 Tbps aan onderling verbonden bandbreedte per VM. Elke GPU binnen de VIRTUELE machine wordt geleverd met een eigen, toegewezen topologie-agnostische 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand-verbinding. Deze verbindingen worden automatisch geconfigureerd tussen VM's die dezelfde virtuele-machineschaalset bezetten en ondersteunen GPU Direct RDMA.
Elke GPU beschikt over NVLINK 4.0-connectiviteit voor communicatie binnen de VIRTUELE machine en het exemplaar heeft 96 fysieke intel Xeon Scalable processorkernen van de vierde generatie.
Deze exemplaren bieden uitstekende prestaties voor veel AI-, ML- en analysehulpprogramma's die ondersteuning bieden voor GPU-versnelling 'out-of-the-box', zoals TensorFlow, Pytorch, Caffe, RAPIDS en andere frameworks. Daarnaast ondersteunt de uitschaalbare InfiniBand-interconnect een grote set bestaande AI- en HPC-hulpprogramma's die zijn gebouwd op NCCL-communicatiebibliotheken van NVIDIA voor naadloze clustering van GPU's.
Hostspecificaties
| Onderdeel | Hoeveelheid Aantal eenheden |
Specs SKU-id, prestatie-eenheden, enzovoort. |
|---|---|---|
| Verwerker | 96 vCPU's | Intel Xeon (Saffier rapids) [x86-64] |
| Geheugen | 1900 GiB | |
| Lokale opslag | 1 schijf | 28000 GiB |
| Externe opslag | 32Disks | |
| Netwerk | 8 NIC's | |
| Accelerators | 8 GPU's | Nvidia H100 GPU (80 GB) |
Functieondersteuning
Premium Storage: ondersteund
Premium Storage-caching: ondersteund
Livemigratie: niet ondersteund
Updates met geheugenbehoud: niet ondersteund
VM's van de tweede generatie: ondersteund
VM's van de eerste generatie: niet ondersteund
Versneld netwerken: ondersteund
Tijdelijke besturingssysteemschijf: ondersteund
Geneste virtualisatie: niet ondersteund
Infiniband: ondersteund
Belangrijk
Als u aan de slag wilt gaan met ND H100 v5-VM's, raadpleegt u HPC Workload Configuration and Optimization voor stappen, waaronder stuurprogramma- en netwerkconfiguratie. Vanwege een verhoogde I/O-footprint voor GPU-geheugen vereist ND H100 v5 het gebruik van VM's van de tweede generatie en marketplace-installatiekopieën.
ondersteuning voor Azure s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 en SLES 15 voor ND H100 v5 VM's. Momenteel worden VM-installatiekopieën van Ubuntu-HPC 20.4/22.04 en AlmaLinux-HPC 8.6/8.7 ondersteund.
Er zijn aanbiedingen van geoptimaliseerde en vooraf geconfigureerde Linux-VM-installatiekopieën voor HPC-/AI-workloads waarop verschillende HPC-hulpprogramma's en -bibliotheken zijn geïnstalleerd, en daarom worden ze ten zeerste aanbevolen.
Als u een installatiekopieën wilt downloaden, gaat u naar Azure Marketplace.
Grootten in reeks
vCPU's (qty.) en geheugen voor elke grootte
| Groottenaam | vCPU's (qty.) | Geheugen (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1900 |
Basisinformatie over VM's
Andere groottegegevens
Lijst met alle beschikbare grootten: Grootten
Prijscalculator: Prijscalculator
Informatie over schijftypen: schijftypen
Volgende stappen
Meer informatie over hoe Azure-rekeneenheden (ACU) u kunnen helpen bij het vergelijken van de rekenprestaties tussen Azure-SKU's.
Bekijk Azure Dedicated Hosts voor fysieke servers die een of meer virtuele machines kunnen hosten die zijn toegewezen aan één Azure-abonnement.
Meer informatie over het bewaken van virtuele Azure-machines.