De virtuele machine (VM) van de ND MI300X v5-serie is een nieuwe vlaggenschip naast de Azure GPU-serie. Het is ontworpen voor geavanceerde Deep Learning-training en nauw gekoppelde omhoog- en uitschalende AI- en HPC-workloads.
De VM uit de ND MI300X v5-serie begint met acht AMD Instinct MI300 GPU's en twee vierde Generatie Intel Xeon Scalable-processors voor een totaal van 96 fysieke kernen. Elke GPU binnen de VIRTUELE machine wordt vervolgens met elkaar verbonden via 4e gen AMD Infinity Fabric-koppelingen met 128 GB/s bandbreedte per GPU en 896 GB/s geaggregeerde bandbreedte.
Op ND MI300X v5 gebaseerde implementaties kunnen worden geschaald tot duizenden GPU's met 3,2 Tb/s aan onderling verbonden bandbreedte per VM. Elke GPU binnen de VIRTUELE machine wordt geleverd met een eigen, toegewezen topologie-agnostische 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand-verbinding. Deze verbindingen worden automatisch geconfigureerd tussen VM's die dezelfde virtuele-machineschaalset in beslag nemen en ondersteunen GPUDirect RDMA.
Deze exemplaren bieden uitstekende prestaties voor veel AI-, ML- en analysehulpprogramma's die GPU-versnelling 'out-of-the-box' ondersteunen, zoals TensorFlow, Pytorch en andere frameworks. Daarnaast ondersteunt de uitschaalbare InfiniBand-interconnect een grote set bestaande AI- en HPC-hulpprogramma's die zijn gebouwd op DE ROCm Communication Collectives Library (RCCL) van AMD voor naadloze clustering van GPU's.
1Tijdelijke schijfsnelheid verschilt vaak tussen RR-bewerkingen (Random Read) en RW (Random Write). RR-bewerkingen zijn doorgaans sneller dan RW-bewerkingen. De RW-snelheid is meestal trager dan de RR-snelheid op serie waarbij alleen de RR-snelheidswaarde wordt vermeld.
De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
1Sommige grootten ondersteunen bursting om de schijfprestaties tijdelijk te verhogen. Burst-snelheden kunnen maximaal 30 minuten tegelijk worden bijgehouden.
De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
Gegevensschijven kunnen in de modus met of zonder caching werken. Voor schijfbewerkingen met gegevenscaching is de cachemodus van de host ingesteld op ReadOnly of ReadWrite. Voor schijfbewerkingen zonder gegevenscaching is de cachemodus van de host ingesteld op Geen.
Verwachte netwerkbandbreedte is de maximale geaggregeerde bandbreedte die per VM-type is toegewezen voor alle NIC's, voor alle bestemmingen. Zie De netwerkbandbreedte van de virtuele machine voor meer informatie
Maximumlimieten worden niet gegarandeerd. Limieten bieden richtlijnen voor het selecteren van het juiste VM-type voor de beoogde toepassing. De werkelijke netwerkprestaties zijn afhankelijk van verschillende factoren, waaronder netwerkcongestie, toepassingsbelastingen en netwerkinstellingen. Zie Netwerkdoorvoer optimaliseren voor virtuele Azure-machines voor meer informatie over het optimaliseren van netwerkdoorvoer.
Als u de verwachte netwerkprestaties in Linux of Windows wilt bereiken, moet u mogelijk een specifieke versie selecteren of uw VIRTUELE machine optimaliseren. Zie Bandbreedte/doorvoer testen (NTTTCP) voor meer informatie.
Accelerator -gegevens (GPU's, FPGA's, enzovoort) voor elke grootte