Freigeben über

NCads H100 v5-Serie

  • Artikel

Gilt für: ✔️ Linux-VMs ✔️ Windows-VMs ✔️ Flexible Skalierungsgruppen ✔️ Einheitliche Skalierungsgruppen

Die VMs der NCads H100 v5-Serie sind eine neue Ergänzung der Azure GPU-Produktfamilie. Sie können diese Serie für praxisorientierte Azure Applied AI-Trainings- und -Batchrückschluss-Workloads verwenden. Die VMs der NCads H100 v5-Serie werden von NVIDIA H100 NVL GPU- und AMD EPYC™ Genoa-Prozessoren der 4. Generation unterstützt. Die VMs verfügen über bis zu zwei NVIDIA H100 NVL-GPUs mit jeweils 94 GB Arbeitsspeicher, bis zu 96 AMD EPYC Genoa-Prozessorkernen ohne Multithreading und 640 GiB Systemspeicher. Diese virtuellen Computer eignen sich ideal für praxisorientierte Applied AI-Workloads, z. B.:

  • GPU-beschleunigte Analysen und Datenbanken
  • Batchrückschließen mit hoher Vor- und Nachverarbeitung
  • Autonomiemodelltraining
  • Simulation für Öl- und Gasvorkommen
  • Machine Learning-Entwicklung (ML)
  • Videoverarbeitung
  • KI/ML-Webdienste

Unterstützte Features

Informationen zu den ersten Schritten mit NCads H100 v5-VMs, einschließlich der Treiber- und Netzwerkkonfiguration, finden Sie unter Konfiguration und Optimierung von HPC-Workloads.

Aufgrund des größeren GPU-E/A-Arbeitsspeicherbedarfs werden für die Verwendung von NCads H100 v5 VMs der 2. Generation und Marketplace-Images benötigt. Befolgen Sie bei der Konfiguration die Anweisungen für Azure HPC-Images.

Size vCPU Arbeitsspeicher (GiB) NVMe des temporären Datenträgers (GiB) GPU GPU-Arbeitsspeicher (GiB) Max. Anzahl Datenträger Maximaler Datenträgerdurchsatz ohne Cache: (IOPS/MB/s) Maximale Anzahl der Netzwerkschnittstellen/Netzwerkbandbreite (MBit/s)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40.000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80.000

1 Eine GPU entspricht einer H100-Karte.
2 Lokale NVMe-Datenträger sind flüchtig. Daten gehen auf diesen Datenträgern verloren, wenn Sie Ihre VM beenden/deren Zuordnung aufheben. Lokale NVMe-Datenträger werden nicht durch Azure Storage-Verschlüsselung verschlüsselt, auch wenn Sie die Verschlüsselung auf dem Host aktivieren.

Definitionen der Größentabelle

  • Speicherkapazität wird in GiB-Einheiten oder 1.024^3 Bytes angezeigt. Beachten Sie beim Vergleich von in GB (1000^3 Bytes) gemessenen Datenträgern mit in GiB (1024^3) gemessenen Datenträgern, dass die in GiB angegebenen Kapazitätszahlen kleiner erscheinen können. Beispiel: 1.023 GiB = 1.098,4 GB.

  • Der Datenträgerdurchsatz wird in E/A-Vorgängen pro Sekunde (Input/Output Operations Per Second, IOPS) und MB/s gemessen, wobei MB/s = 10^6 Bytes/Sekunde beträgt.

  • Datenträger können mit oder ohne Cache betrieben werden. Beim Datenträgerbetrieb mit Cache ist der Hostcachemodus auf ReadOnly oder ReadWrite festgelegt. Beim Datenträgerbetrieb ohne Cache ist der Hostcachemodus auf None festgelegt.

  • Weitere Informationen, wie Sie die beste Speicherleistung für Ihre VMs erzielen können, finden Sie unter Leistung von virtuellen Computern und Datenträgern.

  • Expected network bandwidth (Erwartete Netzwerkbandbreite) ist die maximal aggregierte Bandbreite pro VM-Typ, die netzwerkadapterübergreifend für alle Ziele zugeordnet ist. Weitere Informationen finden Sie unter Netzwerkdurchsatz virtueller Computer.

    Die Einhaltung von Obergrenzen wird nicht garantiert. Grenzwerte dienen als Richtlinien bei der Auswahl der richtigen VM-Art für die jeweilige Anwendung. Die tatsächliche Netzwerkleistung hängt von mehreren Faktoren ab. Hierzu zählen beispielsweise Netzwerküberlastung, Anwendungslasten und die Netzwerkeinstellungen. Informationen zum Optimieren des Netzwerkdurchsatzes finden Sie unter Optimieren des Netzwerkdurchsatzes für virtuelle Azure-Computer. Unter Umständen muss eine bestimmte Version ausgewählt oder der virtuelle Computer optimiert werden, um die erwartete Netzwerkbandbreite unter Linux oder Windows zu erzielen. Weitere Informationen finden Sie unter Testen der Bandbreite/des Durchsatzes (NTTTCP).

Weitere Größen und Informationen

Sie können den Preisrechner verwenden, um ihre Kosten für virtuelle Azure-Computer abzuschätzen.

Weitere Informationen zu Datenträgertypen finden Sie unter Welche Datenträgertypen stehen in Azure zur Verfügung?

Nächster Schritt