As máquinas virtuais da série NCCads H100 v5 são um novo acréscimo à família de GPU do Azure. Nessa VM SKU, o TEE (Ambiente de Execução Confiável) abrange a VM confidencial na CPU e a GPU anexada, permitindo o descarregamento seguro de dados, modelos e computação para a GPU.
A série NCCads H100 v5 é alimentada por processadores AMD EPYC™ Genoa de 4ª geração e GPU NVIDIA H100 Tensor Core. Essas VMs apresentam 1 GPUs NVIDIA H100 NVL com memória de 94 GB, 40 núcleos de processador AMD EPYC Genoa não multithreaded e 320 GiB de memória do sistema. Essas VMs são ideais para cargas de trabalho de IA aplicada do mundo real, como:
Análise e bancos de dados acelerados por GPU
Inferência em lote com pré e pós-processamento intenso
Desenvolvimento de ML (machine learning)
Processamento de vídeo
Serviços Web de IA/ML
Especificações do host
Parte
Quantidade Unidades de Contagem
Especificações ID SKU, unidades de desempenho, etc.
1A velocidade do disco temporário geralmente difere entre as operações de RR (Leitura aleatória) e RW (Gravação aleatória). As operações de RR normalmente são mais rápidas do que as operações de RW. A velocidade de RW geralmente é mais lenta do que a velocidade de RR nas séries em que apenas o valor da velocidade de RR está listado.
A capacidade de armazenamento é mostrada em unidades de GiB ou de 1024^3 bytes. Ao comparar os discos medidos em GB (1000^3 bytes) com os discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB poderão parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.
A taxa de transferência do disco é medida em IOPS (operações de entrada/saída por segundo) e em MBps, em que MBps = 10^6 bytes/s.
1Alguns tamanhos dão suporte para bursting para aumentar temporariamente o desempenho do disco. As velocidades de intermitência podem ser mantidas por até 30 minutos de cada vez.
A capacidade de armazenamento é mostrada em unidades de GiB ou de 1024^3 bytes. Ao comparar os discos medidos em GB (1000^3 bytes) com os discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB poderão parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.
A taxa de transferência do disco é medida em IOPS (operações de entrada/saída por segundo) e em MBps, em que MBps = 10^6 bytes/s.
Os discos de dados podem operar nos modos em cache ou não armazenado em cache. Para a operação do disco de dados armazenados em cache, o modo de cache do host é definido como ReadOnly ou ReadWrite. Para as operação do disco de dados não armazenados em cache, o modo de cache do host é definido como Nenhum.
Largura de banda de rede esperada é a largura de banda agregada máxima alocada por tipo de VM em todas as NICs para todos os destinos. Para obter mais informações, confira Largura de banda de rede da máquina virtual
Os limites superiores não são garantidos. Os limites oferecem orientação para selecionar o tipo de VM correto para o aplicativo pretendido. O desempenho real da rede dependerá de vários fatores, incluindo cargas de rede e aplicativos, bem como configurações de rede. Para saber mais sobre como otimizar a taxa de transferência de rede, consulte Otimização da taxa de transferência de rede para máquinas virtuais do Azure.
Para obter o desempenho de rede esperado no Linux ou no Windows, pode ser necessário selecionar uma versão específica ou otimizar sua VM. Para obter mais informações, consulte Testes de taxa de transferência/largura de banda (NTTTCP).
Informações do acelerador (GPUs, FPGAs etc.) para cada tamanho
Tamanho do Nome
Aceleradores (Qty.)
Memória do acelerador (GB)
Standard_NCC40ads_H100_v5
1
94
Como criar a VM
Para começar a usar as VMs NCCads H100 v5 e obter informações sobre a configuração do driver de GPU confidencial e atestação, confira o artigo Configuração de GPU confidencial
Confira Hosts Dedicados do Azure para servidores físicos com capacidade para hospedar uma ou mais máquinas virtuais atribuídas a uma assinatura do Azure.