Virtuální počítač ŘADY ND MI300X v5 je novým vlajkovým doplňkem řady Azure GPU. Byla navržena pro komplexní trénování hlubokého učení a úzce svázané úlohy s vertikálním navýšením kapacity a škálováním na více instancí generující AI a PROSTŘEDÍ HPC.
Virtuální počítač řady ND MI300X v5 začíná osmi grafickými procesory AMD Instinct MI300 a dvěma čtvrtými procesory Intel Xeon Scalable pro celkem 96 fyzických jader. Každý GPU v rámci virtuálního počítače se pak připojí k sobě prostřednictvím propojení 4. generace AMD Infinity Fabric s šířkou pásma 128 GB/s na GPU a agregovanou šířkou pásma 896 GB/s.
Nasazení ND MI300X v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect.
Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", například TensorFlow, Pytorch a další architektury. Kromě toho interconnect infiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na knihovně ROCm Communication Collectives Library (RCCL) AMD pro bezproblémové clusterování grafických procesorů.
Specifikace hostitele
Část
Množství Počet jednotek
Specifikace ID skladové položky, jednotky výkonu atd.
1Rychlost dočasného disku se často liší mezi operacemi RR (Random Read) a RW (Random Write). Operace RR jsou obvykle rychlejší než operace RW. Rychlost RW je obvykle pomalejší než rychlost RR v řadě, kde je uvedena pouze hodnota rychlosti RR.
Kapacita úložiště je v jednotkách GiB, tj. 1024^3 bajtů. Při porovnávání disků měřených v GB (1000^3 bajtů) s disky měřenými v GiB (1024^3) nezapomeňte, že čísla kapacity uvedená v GiB mohou být menší. Například 1023 GiB = 1098,4 GB.
Propustnost disku se měří v počtu V/V operací za sekundu (IOPS) a v MB/s, kde 1 MB/s = 10^6 bajtů/s.
Informace o tom, jak získat nejlepší výkon úložiště pro virtuální počítače, najdete v tématu Výkon virtuálního počítače a disku.
Informace o vzdáleném úložišti (bez mezipaměti) pro každou velikost
Kapacita úložiště je v jednotkách GiB, tj. 1024^3 bajtů. Při porovnávání disků měřených v GB (1000^3 bajtů) s disky měřenými v GiB (1024^3) nezapomeňte, že čísla kapacity uvedená v GiB mohou být menší. Například 1023 GiB = 1098,4 GB.
Propustnost disku se měří v počtu V/V operací za sekundu (IOPS) a v MB/s, kde 1 MB/s = 10^6 bajtů/s.
Disky pro ukládání dat můžou fungovat v režimu s mezipamětí, nebo bez ní. Pro diskové operace s mezipamětí je možné nastavit mezipaměť na hostiteli jen na čtení nebo na čtení i zápis. Pro diskové operace bez mezipaměti je mezipaměť na hostiteli nastavená na žádná.
Informace o tom, jak získat nejlepší výkon úložiště pro virtuální počítače, najdete v tématu Výkon virtuálního počítače a disku.
Očekávaná šířka pásma sítě je maximální agregovaná šířka pásma přidělená jednotlivým typům virtuálních počítačů pro všechny síťové karty pro všechny cíle. Další informace najdete v tématu Šířka pásma sítě virtuálních počítačů.
Horní limity nejsou zaručeny. Omezení nabízejí pokyny pro výběr správného typu virtuálního počítače pro zamýšlenou aplikaci. Skutečný výkon sítě bude záviset na několika faktorech, včetně zahlcení sítě, zatížení aplikace a nastavení sítě. Informace o optimalizaci propustnosti sítě najdete v tématu Optimalizace propustnosti sítě pro virtuální počítače Azure.
Abyste dosáhli očekávaného výkonu sítě v Linuxu nebo Windows, možná budete muset vybrat konkrétní verzi nebo optimalizovat virtuální počítač. Další informace najdete v tématu Testování šířky pásma a propustnosti (NTTTCP).
Informace o akcelerátoru (GPU, FPGA atd.) pro každou velikost
Přečtěte si další informace o tom, jak vám výpočetní jednotky Azure (ACU) můžou pomoct porovnat výkon výpočetních prostředků napříč skladovými jednotkami Azure.