Řada akcelerovaných velikostí virtuálních počítačů v podřetědě ND

Článek
02/04/2025

Platí pro: ✔️ Virtuální počítače s Windows s Linuxem ✔️ ✔️ – Flexibilní škálovací sady Uniform Scale Sets ✔️

Řada velikostí virtuálních počítačů ND je jednou z instancí virtuálních počítačů akcelerovaných gpu v Azure. Jsou navržené pro hloubkové učení, výzkum AI a úlohy vysokovýkonného výpočetního prostředí, které využívají výhod výkonné akcelerace GPU. Virtuální počítače ŘADY ND vybavené grafickými procesory NVIDIA nabízejí specializované možnosti pro trénování a odvozování složitých modelů strojového učení, což usnadňuje rychlejší výpočty a efektivní zpracování velkých datových sad. Díky tomu jsou obzvláště vhodné pro akademické a komerční aplikace ve vývoji a simulaci umělé inteligence, kde špičkové technologie GPU jsou klíčové pro dosažení rychlých a přesných výsledků zpracování neurální sítě a dalších výpočetních úloh.

Úlohy a případy použití

AI a hluboké učení: Virtuální počítače ŘADY ND jsou ideální pro trénování a nasazování složitých modelů hlubokého učení. Jsou vybaveny výkonnými grafickými procesory NVIDIA, poskytují výpočetní výkon potřebný pro zpracování rozsáhlého trénování neurálních sítí s velkými datovými sadami, což výrazně snižuje dobu trénování.

Vysokovýkonné výpočetní prostředí (HPC): Virtuální počítače ŘADY ND jsou vhodné pro aplikace HPC, které vyžadují akceleraci GPU. Pole, jako je vědecký výzkum, inženýrské simulace (například výpočetní dynamika tekutin) a genomické zpracování, můžou těžit z výpočetních schopností ND-series.

Řada v rodině

Řada ND V1

Virtuální počítače řady ND jsou novým doplňkem řady GPU určených pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro trénování a odvozování. Instance ND využívají gpu NVIDIA Tesla P40 a procesory Intel Xeon E5-2690 v4 (Broadwell). Tyto instance poskytují vynikající výkon pro operace s plovoucí desetinnou čárkou s jednou přesností, pro úlohy AI využívající sadu Microsoft Cognitive Toolkit, TensorFlow, Caffe a další architektury. Řada ND-Series také nabízí mnohem větší paměť GPU (24 GB) a umožňuje zpracovat mnohem větší modely neuronových sítí. Stejně jako řady NC-series nabízí řada ND konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GPU.

Zobrazte celou stránku řady ND.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	6 – 24 virtuálních procesorů	Intel Xeon E5-2690 v4 (Broadwell) [x86-64]
Memory (Paměť)	112 - 448 GiB
Lokální úložiště	1 Disk	736 - 2948 GiB
Vzdálené úložiště	12 – 32 disků	20000 – 80000 IOPS 200 – 800 MB/s
Síť	4– 8 síťových adaptérů
Akcelerátory	1 – 4 GPU	Nvidia Tesla P40 GPU (24 GB)

Řada NDv2

Virtuální počítač řady NDv2 je novým doplňkem řady GPU navržených pro potřeby nejnáročnějších úloh AI, strojového učení, simulace a úloh PROSTŘEDÍ HPC.

NDv2 je poháněn 8 NVIDIA Tesla V100 NVLINK připojených GPU, z nichž každý má 32 GB paměti GPU. Každý virtuální počítač NDv2 má také 40 jader Intel Xeon Platinum 8168 (Skylake) a 672 GiB systémové paměti.

Instance NDv2 poskytují vynikající výkon pro úlohy PROSTŘEDÍ HPC a AI s využitím výpočetních jader optimalizovaných pro CUDA GPU a mnoha analytických nástrojů AI, ML a analytických nástrojů, které podporují "out-of-box" akceleraci GPU, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury.

Kriticky je NDv2 sestavená pro výpočetně intenzivní vertikální navýšení kapacity (využití 8 GPU na virtuální počítač) a horizontální navýšení kapacity (využití více virtuálních počítačů pracujících společně). Řada NDv2 teď podporuje back-endové sítě EDR 100-Gigabit InfiniBand EDR, podobně jako u řady HB virtuálních počítačů HPC, které umožňují vysoce výkonné clustering pro paralelní scénáře, včetně distribuovaného trénování pro AI a ML. Tato back-endová síť podporuje všechny hlavní protokoly InfiniBand, včetně těch, které používají knihovny NCCL2 společnosti NVIDIA, což umožňuje bezproblémové clusterování gpu.

Zobrazení celé stránky řady NDv2

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	40 vCPU	Intel Xeon Platinum 8168 (Skylake) [x86-64]
Memory (Paměť)	672 GiB
Lokální úložiště	1 Disk	2948 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	Nic

řada ND_A100_v4

Virtuální počítač ŘADY ND A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navržené pro komplexní trénování hlubokého učení a úzce propojené úlohy prostředí HPC s horizontálním navýšením kapacity a horizontálním navýšením kapacity.

Řada ND A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 40 GB Tensor Core GPU. Nasazení založená na ND A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů Azure, automaticky konfigurují a podporují přímý přístup do paměti RDMA s GPU.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NVIDIA NCCL2 pro bezproblémové clusterování gpu.

Zobrazte celou stránku ND_A100_v4 řad.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť)	900 GiB
Lokální úložiště	1 Disk	6000 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	8 GPU	Gpu Nvidia A100 (40 GB)

řada NDm_A100_v4

Virtuální počítač řady NDm A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navržené pro komplexní trénování hlubokého učení a úzce propojené úlohy prostředí HPC s horizontálním navýšením kapacity a horizontálním navýšením kapacity.

Řada NDm A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 80GB Tensor Core GPU. Nasazení založená na NDm A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů Azure, automaticky konfigurují a podporují přímý přístup do paměti RDMA s GPU.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Zobrazit celou stránku řady NDm_A100_v4.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť)	1900 GiB
Lokální úložiště	1 Disk	6400 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	8 GPU	Gpu Nvidia A100 (80 GB)

řada ND_H100_v5

Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Tato řada je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy s vertikálním navýšením kapacity a horizontálním navýšením kapacity generování AI a prostředí HPC.

Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířkou pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují přímý přístup RDMA gpu.

Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance má 96 fyzických čtvrtých jader procesorů Intel Xeon Scalable.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování gpu.

Zobrazit celou stránku řady ND_H100_v5.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť)	1900 GiB
Lokální úložiště	1 Disk	28000 GiB
Vzdálené úložiště	32Disky
Síť	8 síťových adaptérů
Akcelerátory	8 GPU	Gpu Nvidia H100 (80 GB)

řada ND_MI300X_v5

Virtuální počítač ŘADY ND MI300X v5 je novým vlajkovým doplňkem řady Azure GPU. Byla navržena pro komplexní trénování hlubokého učení a úzce svázané úlohy s vertikálním navýšením kapacity a škálováním na více instancí generující AI a PROSTŘEDÍ HPC.

Virtuální počítač řady ND MI300X v5 začíná osmi grafickými procesory AMD Instinct MI300 a dvěma čtvrtými procesory Intel Xeon Scalable pro celkem 96 fyzických jader. Každý GPU v rámci virtuálního počítače se pak připojí k sobě prostřednictvím propojení 4. generace AMD Infinity Fabric s šířkou pásma 128 GB/s na GPU a agregovanou šířkou pásma 896 GB/s.

Nasazení ND MI300X v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", například TensorFlow, Pytorch a další architektury. Kromě toho interconnect infiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na knihovně ROCm Communication Collectives Library (RCCL) AMD pro bezproblémové clusterování grafických procesorů.

Zobrazte celou stránku ND_MI300X_v5 řad.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť)	1850 GiB
Lokální úložiště	1 Dočasný disk 8 disků NVMe	Dočasný disk 1000 GiB 28000 Disků GiB NVMe
Vzdálené úložiště	32 disků	80000 IOPS 1200 MB/s
Síť	8 síťových adaptérů
Akcelerátory	8 GPU	AMD Instinct MI300X GPU (192 GB)

Řada rodin ND předchozí generace

U starších velikostí se podívejte na velikosti předchozí generace.

Další informace o velikosti

Seznam všech dostupných velikostí: Velikosti

Cenová kalkulačka: Cenová kalkulačka

Informace o typech disků: Typy disků

Další kroky

Využijte nejnovější výkon a funkce dostupné pro vaše úlohy změnou velikosti virtuálního počítače.

Využijte interní procesory ARM od Microsoftu s virtuálními počítači Azure Cobalt.

Naučte se monitorovat virtuální počítače Azure.

Sdílet prostřednictvím