Größen der ND-H100-v5-Serie
Der virtuelle Computer der Serie ND H100 v5 ist eine neues Flaggschiff der Azure-GPU-Familie. Diese Serie ist für High-End-Deep-Learning-Training und eng gekoppelte vertikal und horizontal skalierbare generative KI- und HPC-Workloads konzipiert.
Die kleinste Bereitstellung der Serie ND H100 v5 besteht aus einer einzelnen VM und acht NVIDIA H100 Tensor Core-GPUs. ND H100 v5-basierte Bereitstellungen können auf Tausende von GPUs mit einer Verbindungsbandbreite von 3,2 Tbit/s pro VM hochskaliert werden. Jede GPU innerhalb der VM kommt mit einer eigenen dedizierten, topologieunabhängigen NVIDIA Quantum-2 CX7 InfiniBand-Verbindung, die 400 Gbit/s Bandbreite bietet. Diese Verbindungen werden automatisch zwischen VMs in derselben VM-Skalierungsgruppe konfiguriert und unterstützen GPU Direct-RDMA.
Jede GPU verfügt über NVLINK 4.0-Konnektivität für die Kommunikation innerhalb der VM, und die Instanz hat 96 physische skalierbare Intel Xeon-Prozessorkerne der vierten Generation.
Diese Instanzen bieten hervorragende Leistung für zahlreiche KI-, ML- und Analysetools mit integrierter Unterstützung für GPU-Beschleunigung. Dazu zählen beispielsweise TensorFlow, Pytorch, Caffe, RAPIDS und andere Frameworks. Darüber hinaus unterstützt die horizontal skalierbare InfiniBand-Verbindung viele vorhandene KI- und HPC-Tools, die auf den NCCL-Kommunikationsbibliotheken von NVIDIA für das nahtlose GPU-Clustering aufbauen.
Hostspezifikationen
| Teil | Menge Anzahl Einheiten |
Spezifikationen SKU-ID, Leistungseinheiten usw. |
|---|---|---|
| Prozessor | 96 vCPUs | Intel Xeon (Sapphire Rapids) [x86-64] |
| Arbeitsspeicher | 1.900 GiB | |
| Lokaler Speicher | 1 Datenträger | 28.000 GiB |
| Remotespeicher | 32Datenträger | |
| Network | 8 NICs | |
| Schnellinfos | 8 GPUs | Nvidia H100-GPU (80 GB) |
Featureunterstützung
Storage Premium: Unterstützt
Storage Premium-Zwischenspeicherung: Unterstützt
Live-Migration: Nicht unterstützt
Updates mit Speicherbeibehaltung: Nicht unterstützt
VMs der 2. Generation: unterstützt
VMs der 1. Generation: nicht unterstützt
Beschleunigter Netzwerkbetrieb: Unterstützt
Kurzlebiger Betriebssystemdatenträger: unterstützt
Geschachtelte Virtualisierung: Nicht unterstützt
Infiniband: Unterstützt
Wichtig
Informationen zu den ersten Schritten mit ND H100 v5-VMs, einschließlich der Treiber- und Netzwerkkonfiguration, finden Sie unter Konfiguration und Optimierung von HPC-Workloads. Aufgrund des größeren E/A-GPU-Arbeitsspeicherbedarfs werden für ND H100 v5 VMs der 2. Generation und Marketplace-Images benötigt.
Azure unterstützt Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 und SLES 15 für ND H100 v5-VMs. Derzeit werden Ubuntu-HPC 20.4/22.04- und AlmaLinux-HPC 8.6/8.7-VM-Images unterstützt.
Es gibt Angebote optimierter und vorkonfigurierter Linux-VM-Images für HPC-/KI-Workloads mit einer Vielzahl von installierten HPC-Tools und -Bibliotheken, und daher werden sie dringend empfohlen.
Um ein Image herunterzuladen, wechseln Sie zum Azure Marketplace.
Größen der Serie
vCPUs (Menge) und Arbeitsspeicher für jede Größe
| Name der Größe | vCPUs (Anzahl) | Arbeitsspeicher (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1.900 |
VM Basics-Ressourcen
Andere Größeninformationen
Liste aller verfügbaren Größen: Größen
Preisrechner: Preisrechner
Informationen zu Datenträgertypen: Datenträgertypen
Nächste Schritte
Nutzen Sie die neuesten für Ihre Workloads verfügbaren Leistung und Funktionen, indem Sie die Größe eines virtuellen Computers ändern.
Nutzen Sie die von Microsoft selbst entwickelten ARM-Prozessoren mit Azure Cobalt-VMs.
Weitere Informationen finden Sie unter Überwachen von Azure-VMs.