Řada velikostí ND-H100-v5
Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Tato řada je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy s vertikálním navýšením kapacity a horizontálním navýšením kapacity generování AI a prostředí HPC.
Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířkou pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují přímý přístup RDMA gpu.
Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance má 96 fyzických čtvrtých jader procesorů Intel Xeon Scalable.
Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování gpu.
Specifikace hostitele
| Část | Množství Počet jednotek |
Specifikace ID skladové položky, jednotky výkonu atd. |
|---|---|---|
| Procesor | 96 vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| Memory (Paměť) | 1900 GiB | |
| Lokální úložiště | 1 Disk | 28000 GiB |
| Vzdálené úložiště | 32Disky | |
| Síť | 8 síťových adaptérů | |
| Akcelerátory | 8 GPU | Gpu Nvidia H100 (80 GB) |
Podpora funkcí
Premium Storage: Podporováno
Ukládání do mezipaměti Premium Storage: Podporováno
Migrace za provozu: Nepodporuje se
Aktualizace pro zachování paměti: Nepodporováno
Virtuální počítače generace 2: Podporované
Virtuální počítače generace 1: Nepodporováno
Akcelerované síťové služby: Podporováno
Dočasný disk s operačním systémem: Podporováno
Vnořená virtualizace: Nepodporuje se
Infiniband: Podporováno
Důležité
Pokud chcete začít s virtuálními počítači ND H100 v5, projděte si postup konfigurace a optimalizace úloh HPC, včetně konfigurace ovladače a sítě. Kvůli zvýšenému využití vstupně-výstupních operací paměti GPU vyžaduje ND H100 v5 použití virtuálních počítačů generace 2 a imagí z marketplace.
podpora Azure s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 a SLES 15 pro virtuální počítače ND H100 v5. V současné době jsou podporované image virtuálních počítačů Ubuntu-HPC 20.4/22.04 a AlmaLinux-HPC 8.6/8.7.
Existují nabídky optimalizovaných a předem nakonfigurovaných imagí virtuálních počítačů s Linuxem pro úlohy PROSTŘEDÍ HPC/AI s nainstalovanými různými nástroji a knihovnami prostředí HPC, a proto se důrazně doporučují.
Pokud si chcete stáhnout image, přejděte na Azure Marketplace.
Velikosti v řadách
vCPU (Qty.) a paměť pro každou velikost
| Název velikosti | vCPU (Qty.) | Paměť (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1900 |
Základní prostředky virtuálních počítačů
Další informace o velikosti
Seznam všech dostupných velikostí: Velikosti
Cenová kalkulačka: Cenová kalkulačka
Informace o typech disků: Typy disků
Další kroky
Využijte nejnovější výkon a funkce dostupné pro vaše úlohy změnou velikosti virtuálního počítače.
Využijte interní procesory ARM od Microsoftu s virtuálními počítači Azure Cobalt.
Naučte se monitorovat virtuální počítače Azure.