Řada akcelerovaných velikostí virtuálních počítačů v podřetědě ND

Článek
08/25/2024

Platí pro: ✔️ Virtuální počítače s Windows s Linuxem ✔️ ✔️ – Flexibilní škálovací sady Uniform Scale Sets ✔️

Řada velikostí virtuálních počítačů ND je jednou z instancí virtuálních počítačů akcelerovaných gpu v Azure. Jsou navržené pro hloubkové učení, výzkum AI a úlohy vysokovýkonného výpočetního prostředí, které využívají výhod výkonné akcelerace GPU. Virtuální počítače ŘADY ND vybavené grafickými procesory NVIDIA nabízejí specializované možnosti pro trénování a odvozování složitých modelů strojového učení, což usnadňuje rychlejší výpočty a efektivní zpracování velkých datových sad. Díky tomu jsou obzvláště vhodné pro akademické a komerční aplikace ve vývoji a simulaci umělé inteligence, kde špičkové technologie GPU jsou klíčové pro dosažení rychlých a přesných výsledků zpracování neurální sítě a dalších výpočetních úloh.

Úlohy a případy použití

AI a hluboké učení: Virtuální počítače ŘADY ND jsou ideální pro trénování a nasazování složitých modelů hlubokého učení. Jsou vybaveny výkonnými grafickými procesory NVIDIA, poskytují výpočetní výkon potřebný pro zpracování rozsáhlého trénování neurálních sítí s velkými datovými sadami, což výrazně snižuje dobu trénování.

Vysokovýkonné výpočetní prostředí (HPC): Virtuální počítače ŘADY ND jsou vhodné pro aplikace HPC, které vyžadují akceleraci GPU. Pole, jako je vědecký výzkum, inženýrské simulace (například výpočetní dynamika tekutin) a genomické zpracování, můžou těžit z výpočetních schopností ND-series.

Řada v rodině

Řada ND V1

Virtuální počítače řady ND jsou novým doplňkem řady GPU určených pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro trénování a odvozování. Instance ND využívají gpu NVIDIA Tesla P40 a procesory Intel Xeon E5-2690 v4 (Broadwell). Tyto instance poskytují vynikající výkon pro operace s plovoucí desetinnou čárkou s jednou přesností, pro úlohy AI využívající sadu Microsoft Cognitive Toolkit, TensorFlow, Caffe a další architektury. Řada ND-Series také nabízí mnohem větší paměť GPU (24 GB) a umožňuje zpracovat mnohem větší modely neuronových sítí. Stejně jako řady NC-series nabízí řada ND konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GPU.

Zobrazte celou stránku řady ND.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	6 – 24 virtuálních procesorů	Intel Xeon E5-2690 v4 (Broadwell) [x86-64]
Memory (Paměť)	112 - 448 GiB
Lokální úložiště	1 Disk	736 - 2948 GiB
Vzdálené úložiště	12 – 32 disků	20000 – 80000 IOPS 200 – 800 MB/s
Síť	4– 8 síťových adaptérů
Akcelerátory	1 – 4 GPU	Nvidia Tesla P40 GPU (24 GB)

Řada NDv2

Virtuální počítač řady NDv2 je novým doplňkem řady GPU navržených pro potřeby nejnáročnějších úloh AI, strojového učení, simulace a úloh PROSTŘEDÍ HPC.

NDv2 je poháněn 8 NVIDIA Tesla V100 NVLINK připojených GPU, z nichž každý má 32 GB paměti GPU. Každý virtuální počítač NDv2 má také 40 jader Intel Xeon Platinum 8168 (Skylake) a 672 GiB systémové paměti.

Instance NDv2 poskytují vynikající výkon pro úlohy PROSTŘEDÍ HPC a AI s využitím výpočetních jader optimalizovaných pro CUDA GPU a mnoha analytických nástrojů AI, ML a analytických nástrojů, které podporují "out-of-box" akceleraci GPU, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury.

Kriticky je NDv2 sestavená pro výpočetně intenzivní vertikální navýšení kapacity (využití 8 GPU na virtuální počítač) a horizontální navýšení kapacity (využití více virtuálních počítačů pracujících společně). Řada NDv2 teď podporuje back-endové sítě EDR 100-Gigabit InfiniBand EDR, podobně jako u řady HB virtuálních počítačů HPC, které umožňují vysoce výkonné clustering pro paralelní scénáře, včetně distribuovaného trénování pro AI a ML. Tato back-endová síť podporuje všechny hlavní protokoly InfiniBand, včetně těch, které používají knihovny NCCL2 společnosti NVIDIA, což umožňuje bezproblémové clusterování gpu.

Zobrazení celé stránky řady NDv2

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	40 vCPU	Intel Xeon Platinum 8168 (Skylake) [x86-64]
Memory (Paměť)	672 GiB
Lokální úložiště	1 Disk	2948 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	Nic

řada ND_A100_v4

Virtuální počítač ŘADY ND A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navržené pro komplexní trénování hlubokého učení a úzce propojené úlohy prostředí HPC s horizontálním navýšením kapacity a horizontálním navýšením kapacity.

Řada ND A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 40 GB Tensor Core GPU. Nasazení založená na ND A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů Azure, automaticky konfigurují a podporují přímý přístup do paměti RDMA s GPU.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NVIDIA NCCL2 pro bezproblémové clusterování gpu.

Zobrazte celou stránku ND_A100_v4 řad.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť)	900 GiB
Lokální úložiště	1 Disk	6000 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	8 GPU	Gpu Nvidia A100 (40 GB)

řada NDm_A100_v4

Virtuální počítač řady NDm A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navržené pro komplexní trénování hlubokého učení a úzce propojené úlohy prostředí HPC s horizontálním navýšením kapacity a horizontálním navýšením kapacity.

Řada NDm A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 80GB Tensor Core GPU. Nasazení založená na NDm A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů Azure, automaticky konfigurují a podporují přímý přístup do paměti RDMA s GPU.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Zobrazit celou stránku řady NDm_A100_v4.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť)	1900 GiB
Lokální úložiště	1 Disk	6400 GiB
Vzdálené úložiště	32 disků	80000 IOPS 800 MB/s
Síť	8 síťových adaptérů	24000 Mb/s
Akcelerátory	8 GPU	Gpu Nvidia A100 (80 GB)

řada ND_H100_v5

Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Tato řada je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy s vertikálním navýšením kapacity a horizontálním navýšením kapacity generování AI a prostředí HPC.

Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířkou pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují přímý přístup RDMA gpu.

Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance má 96 fyzických čtvrtých jader procesorů Intel Xeon Scalable.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování gpu.

Zobrazit celou stránku řady ND_H100_v5.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť)	1900 GiB
Lokální úložiště	1 Disk	28000 GiB
Vzdálené úložiště	32Disky
Síť	8 síťových adaptérů
Akcelerátory	8 GPU	Gpu Nvidia H100 (80 GB)

řada ND_MI300X_v5

Virtuální počítač ŘADY ND MI300X v5 je novým vlajkovým doplňkem řady Azure GPU. Byla navržena pro komplexní trénování hlubokého učení a úzce svázané úlohy s vertikálním navýšením kapacity a škálováním na více instancí generující AI a PROSTŘEDÍ HPC.

Virtuální počítač řady ND MI300X v5 začíná osmi grafickými procesory AMD Instinct MI300 a dvěma čtvrtými procesory Intel Xeon Scalable pro celkem 96 fyzických jader. Každý GPU v rámci virtuálního počítače se pak připojí k sobě prostřednictvím propojení 4. generace AMD Infinity Fabric s šířkou pásma 128 GB/s na GPU a agregovanou šířkou pásma 896 GB/s.

Nasazení ND MI300X v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", například TensorFlow, Pytorch a další architektury. Kromě toho interconnect infiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na knihovně ROCm Communication Collectives Library (RCCL) AMD pro bezproblémové clusterování grafických procesorů.

Zobrazte celou stránku ND_MI300X_v5 řad.

Část	Množství ^{Počet jednotek}	Specifikace ^{ID skladové položky, jednotky výkonu atd.}
Procesor	96 vCPU	Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť)	1850 GiB
Lokální úložiště	1 Dočasný disk 8 disků NVMe	Dočasný disk 1000 GiB 28000 Disků GiB NVMe
Vzdálené úložiště	32 disků	80000 IOPS 1200 MB/s
Síť	8 síťových adaptérů
Akcelerátory	8 GPU	AMD Instinct MI300X GPU (192 GB)

Řada rodin ND předchozí generace

U starších velikostí se podívejte na velikosti předchozí generace.

Další informace o velikosti

Seznam všech dostupných velikostí: Velikosti

Cenová kalkulačka: Cenová kalkulačka

Informace o typech disků: Typy disků

Další kroky

Přečtěte si další informace o tom, jak vám výpočetní jednotky Azure (ACU) můžou pomoct porovnat výkon výpočetních prostředků napříč skladovými jednotkami Azure.

Podívejte se na službu Azure Dedicated Hosts, kde jsou fyzické servery schopné hostovat jeden nebo více virtuálních počítačů přiřazených k jednomu předplatnému Azure.

Naučte se monitorovat virtuální počítače Azure.

Sdílet prostřednictvím