Série de tamanhos ND-MI300X-v5

A VM (máquina virtual) da série ND MI300X v5 é o novo carro-chefe da família de GPU do Azure. Ela foi projetada para treinamento de aprendizado profundo de alto nível e cargas de trabalho de HPC e IA generativa de escala vertical e expansão altamente acopladas.

A VM da série ND MI300X v5 começa com oito GPUs AMD Instinct MI300 e dois processadores dimensionáveis Intel Xeon de quarta geração, para um total de 96 núcleos físicos. Em seguida, cada GPU da VM é conectada entre si por meio de links do Infinity Fabric AMD de 4ª geração com largura de banda de 128 GB/s por GPU e largura de banda agregada de 896 GB/s.

As implantações baseadas na série ND MI300X v5 podem ser dimensionadas para milhares de GPUs com uma largura de banda de interconexão de 3,2 TB/s por VM. Cada GPU na VM é fornecida com a própria conexão NVIDIA Quantum-2 CX7 InfiniBand de 400 Gb/s dedicada e independente de topologia. Essas conexões são configuradas automaticamente entre as VMs que ocupam o mesmo conjunto de dimensionamento de máquinas virtuais e dão suporte ao GPUDirect RDMA.

Essas instâncias fornecem um excelente desempenho para muitas ferramentas de IA, ML e análise que dão suporte à aceleração de GPU “pronta para uso”, como o TensorFlow, o PyTorch e outras estruturas. Além disso, a interconexão InfiniBand de expansão dá suporte a um grande conjunto de ferramentas existentes de IA e HPC baseadas nas RCCL (Bibliotecas de Comunicação ROCm) da AMD, permitindo o clustering contínuo das GPUs.

Especificações do host

Parte	Quantidade Unidades de Contagem	Especificações ID SKU, unidades de desempenho, etc.
Processador	96 vCPUs	Intel Xeon (Sapphire Rapids) [x86-64]
Memória	1.850 GiB
Armazenamento local	1 disco temporário 8 Discos NVMe	Disco Temporário de 1000 GiB Discos NVMe de 28000 GiB
Armazenamento Remoto	32 discos	80.000 IOPS 1.200 MBps
Rede	8 NICs
Aceleradores	8 GPUs	GPU AMD Instinct MI300X (192 GB)

Suporte a recursos

Armazenamento Premium: com suporte
Cache com Armazenamento Premium: com suporte
Migração dinâmica: sem suporte
Atualizações de preservação de memória: sem suporte
VMs de geração 2: com suporte
VMs de geração 1: sem suporte
Rede Acelerada: com suporte
Discos de SO efêmero: aceitos
Virtualização aninhada: sem suporte

Tamanhos em série

Noções básicas

vCPUs (Qtd.) e memória para cada tamanho

Tamanho do Nome	vCPUs (Qty.)	Memória (GB)
Standard_ND96isr_MI300X_v5	96	1850

Recursos Básicos da VM

• Verificar as cotas de vCPU

Armazenamento local

Informações de armazenamento local (temporário) para cada tamanho

Tamanho Nome	Máximo de discos de armazenamento temporário (Qtd.)	Tamanho do disco temporário (GiB)	Máximo de discos NVMe (Qtd.)	Tamanho do disco NVMe (TiB)
Standard_ND96isr_MI300X_v5	1	1000	8	28

Recursos de armazenamento

• Introdução aos discos gerenciados do Azure
• Tipos de disco gerenciado do Azure
• Compartilhar um disco gerenciado do Azure

Definições da tabela

• ¹A velocidade do disco temporário geralmente difere entre as operações de RR (Leitura aleatória) e RW (Gravação aleatória). As operações de RR normalmente são mais rápidas do que as operações de RW. A velocidade de RW geralmente é mais lenta do que a velocidade de RR nas séries em que apenas o valor da velocidade de RR está listado.
• A capacidade de armazenamento é mostrada em unidades de GiB ou de 1024^3 bytes. Ao comparar os discos medidos em GB (1000^3 bytes) com os discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB poderão parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.
• A taxa de transferência do disco é medida em IOPS (operações de entrada/saída por segundo) e em MBps, em que MBps = 10^6 bytes/s.
• Para saber como obter o melhor desempenho de armazenamento para suas VMs, consulte Desempenho de disco e máquina virtual.

Armazenamento remoto

Informações do armazenamento remoto (não armazenado em cache) para cada tamanho

Tamanho Nome	Máximo de discos de armazenamento remoto (Qtd.)	IOPS de disco não armazenado em cache	Velocidade de disco não armazenado em cache (MBps)
Standard_ND96isr_MI300X_v5	16	80000	1200

Recursos de armazenamento

• Introdução aos discos gerenciados do Azure
• Tipos de disco gerenciado do Azure
• Compartilhar um disco gerenciado do Azure

Definições da tabela

• ¹Alguns tamanhos dão suporte para bursting para aumentar temporariamente o desempenho do disco. As velocidades de intermitência podem ser mantidas por até 30 minutos de cada vez.
• ²Armazenamento especial refere-se ao armazenamento de Disco Ultra ou SSD Premium v2.
• A capacidade de armazenamento é mostrada em unidades de GiB ou de 1024^3 bytes. Ao comparar os discos medidos em GB (1000^3 bytes) com os discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB poderão parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.
• A taxa de transferência do disco é medida em IOPS (operações de entrada/saída por segundo) e em MBps, em que MBps = 10^6 bytes/s.
• Os discos de dados podem operar nos modos em cache ou não armazenado em cache. Para a operação do disco de dados armazenados em cache, o modo de cache do host é definido como ReadOnly ou ReadWrite. Para as operação do disco de dados não armazenados em cache, o modo de cache do host é definido como Nenhum.
• Para saber como obter o melhor desempenho de armazenamento para suas VMs, consulte Desempenho de disco e máquina virtual.

Rede

Informações do adaptador de rede para cada tamanho

Tamanho do Nome	Máximo NICs (Qty.)	Largura de Banda Máxima (Mbps)
Standard_ND96isr_MI300X_v5	8	80000

Recursos de rede

• Redes virtuais e máquinas virtuais no Azure
• Largura de banda de rede da máquina virtual

Definições da tabela

• Largura de banda de rede esperada é a largura de banda agregada máxima alocada por tipo de VM em todas as NICs para todos os destinos. Para obter mais informações, confira Largura de banda de rede da máquina virtual
• Os limites superiores não são garantidos. Os limites oferecem orientação para selecionar o tipo de VM correto para o aplicativo pretendido. O desempenho real da rede dependerá de vários fatores, incluindo cargas de rede e aplicativos, bem como configurações de rede. Para saber mais sobre como otimizar a taxa de transferência de rede, consulte Otimização da taxa de transferência de rede para máquinas virtuais do Azure.
• Para obter o desempenho de rede esperado no Linux ou no Windows, pode ser necessário selecionar uma versão específica ou otimizar sua VM. Para obter mais informações, consulte Testes de taxa de transferência/largura de banda (NTTTCP).

Aceleradores

Informações do acelerador (GPUs, FPGAs etc.) para cada tamanho

Tamanho do Nome	Aceleradores (Qty.)	Memória do acelerador (GB)
Standard_ND96isr_MI300X_v5	8	1535

Outras informações de tamanho

Lista de todos os tamanhos disponíveis: Tamanhos

Calculadora de Preços: Calculadora de Preços

Informações sobre os tipos de disco: Tipos de Disco

Próximas etapas

Saiba mais sobre como as ACUs (unidade de computação do Azure) podem ajudar você a comparar o desempenho de computação entre SKUs do Azure.

Confira Hosts Dedicados do Azure para servidores físicos com capacidade para hospedar uma ou mais máquinas virtuais atribuídas a uma assinatura do Azure.

Saiba como Monitorar as máquinas virtuais do Azure.