ND-H100-v5 storlekar serien
Den virtuella datorn i ND H100 v5-serien (VM) är ett nytt flaggskeppstillägg till Azure GPU-familjen. Den här serien är utformad för avancerad djupinlärningsträning och nära kopplade arbetsbelastningar för generativ AI och HPC.
ND H100 v5-serien börjar med en enda virtuell dator och åtta NVIDIA H100 Tensor Core GPU:er. ND H100 v5-baserade distributioner kan skala upp till tusentals GPU:er med 3,2 TB bandbredd per virtuell dator. Varje GPU på den virtuella datorn tillhandahålls med en egen dedikerad, topologi-agnostisk 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand-anslutning. Dessa anslutningar konfigureras automatiskt mellan virtuella datorer som upptar samma VM-skalningsuppsättning och stöder GPU Direct RDMA.
Varje GPU har NVLINK 4.0-anslutning för kommunikation inom den virtuella datorn, och instansen har 96 fysiska fjärde Gen Intel Xeon-skalbara processorskärnor.
Dessa instanser ger utmärkta prestanda för många AI-, ML- och analysverktyg som stöder GPU-acceleration "out-of-the-box", till exempel TensorFlow, Pytorch, Caffe, RAPIDS och andra ramverk. Dessutom stöder den utskalningsbaserade InfiniBand-anslutningen en stor uppsättning befintliga AI- och HPC-verktyg som bygger på NVIDIA:s NCCL-kommunikationsbibliotek för sömlös klustring av GPU:er.
Värdspecifikationer
| Delvis | Kvantitet Antal enheter |
Glasögon SKU-ID, prestandaenheter osv. |
|---|---|---|
| Processor | 96 vCPU:er | Intel Xeon (Sapphire Rapids) [x86-64] |
| Minne | 1900 GiB | |
| Lokal lagring | 1 disk | 28000 GiB |
| Fjärrlagring | 32Diskar | |
| Nätverk | 8 nätverkskort | |
| Acceleratorer | 8 GPU:er | Nvidia H100 GPU (80 GB) |
Funktionsstöd
Premium Storage: Stöds
Cachelagring i Premium Storage: Stöds
Direktmigrering: Stöds inte
Minnesbevarande uppdateringar: Stöds inte
Virtuella datorer i generation 2: Stöds
Virtuella datorer i generation 1: Stöds inte
Accelererat nätverk: Stöds
Tillfälliga OS-diskar: Stöds
Kapslad virtualisering: Stöds inte
Infiniband: Stöds
Viktigt!
Information om hur du kommer igång med virtuella datorer med ND H100 v5 finns i HPC-arbetsbelastningskonfiguration och optimering för steg, inklusive drivrutins- och nätverkskonfiguration. På grund av ökat GPU-minnes-I/O-fotavtryck kräver ND H100 v5 användning av virtuella datorer i generation 2 och marketplace-avbildningar.
Azure Support s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 och SLES 15 för ND H100 v5 virtuella datorer. För närvarande stöds Ubuntu-HPC 20.4/22.04 och AlmaLinux-HPC 8.6/8.7 VM-avbildningar.
Det finns erbjudanden om optimerade och förkonfigurerade avbildningar av virtuella Linux-datorer för HPC/AI-arbetsbelastningar med en mängd olika HPC-verktyg och bibliotek installerade, och därför rekommenderas de starkt.
Om du vill ladda ned en avbildning går du till Azure Marketplace.
Storlekar i serie
vCPU:er (Qty.) och Minne för varje storlek
| Storleksnamn | vCPU:er (Qty.) | Minne (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1900 |
Grundläggande resurser för virtuella datorer
Annan storleksinformation
Lista över alla tillgängliga storlekar: Storlekar
Priskalkylator: Priskalkylator
Information om disktyper: Disktyper
Nästa steg
Läs mer om hur Azure-beräkningsenheter (ACU) kan hjälpa dig att jämföra beräkningsprestanda mellan Azure-SKU:er.
Kolla in Azure Dedicated Hosts för fysiska servrar som kan vara värdar för en eller flera virtuella datorer som tilldelats en Azure-prenumeration.
Lär dig hur du övervakar virtuella Azure-datorer.