你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
NCCads_H100_v5 大小系列
NCCads H100 v5 系列虚拟机是 Azure GPU 系列的新增成员。 在此 VM SKU 中,受信任执行环境 (TEE) 可跨越 CPU 和附加 GPU 上的机密 VM,从而安全地将数据、模型和计算卸载到 GPU。
NCCads H100 v5 系列由第四代 AMD EPYC™ Genoa 处理器和 NVIDIA H100 Tensor Core GPU 提供支持。 这些 VM 配置了 1 个 94 GB 内存的 NVIDIA H100 NVL GPU、40 个非多线程 AMD EPYC Genoa 处理器核心,以及 320 GiB 的系统内存。 这些 VM 非常适合实际的应用 AI 工作负载,例如:
- GPU 加速分析和数据库
- 具有大量预处理和后期处理工作的批处理推理
- 机器学习 (ML) 开发
- 视频处理
- AI/ML Web 服务
主机规格
组成部分 |
数量 计数单位 |
规格 SKU ID、性能单位等 |
处理器 |
40 个 vCPU |
AMD EPYC (Genoa) [x86-64] |
内存 |
320 GiB |
|
本地存储 |
1 个磁盘 |
800 GiB |
远程存储 |
8 个磁盘 |
100000 IOPS 3000 MBps |
网络 |
2 个 NIC |
40000 Mbps |
加速器 |
1 GPU |
Nvidia H100 GPU (94GB) |
功能支持
高级存储:支持
高级存储缓存:支持
实时迁移:不支持
内存保留更新:不支持
第 2 代 VM:支持
第 1 代 VM:不支持
加速网络:不支持
临时 OS 磁盘:支持
嵌套虚拟化:不支持
系列大小
每个大小的 vCPU(数量)和内存
大小名称 |
vCPU(数量) |
内存 (GB) |
Standard_NCC40ads_H100_v5 |
40 |
320 |
VM 基础知识资源
每个大小的本地(临时)存储信息
大小 名称 |
最大临时存储磁盘数量 |
临时磁盘大小 (GiB) |
Standard_NCC40ads_H100_v5 |
1 |
800 |
存储资源
表定义
- 1临时磁盘速度通常因 RR(随机读取)和 RW(随机写入)操作而异。 RR 操作通常比 RW 操作快。 RW 速度通常比系列上的 RR 速度慢,其中仅列出了 RR 速度值。
- 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB(1000^3 字节)为单位的磁盘和以 GiB(1024^3 字节)为单位的磁盘时,请记住以 GiB 为单位的容量数显得更小。 例如,1023 GiB = 1098.4 GB。
- 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 Mbps,其中 Mbps = 10^6 字节/秒。
- 如要了解如何为虚拟机获得最佳存储性能,请参阅虚拟机和磁盘性能。
每个大小的远程(未缓存)存储信息
大小 名称 |
最大远程存储磁盘数量 |
未缓存磁盘 IOPS |
未缓存磁盘速度 (MBps) |
Standard_NCC40ads_H100_v5 |
8 |
100000 |
3000 |
存储资源
表定义
- 1某些大小支持使用突发来暂时提高磁盘性能。 突发速度一次最多可以保持 30 分钟。
- 2特殊存储是指超级磁盘或高级 SSD v2 存储。
- 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB(1000^3 字节)为单位的磁盘和以 GiB(1024^3 字节)为单位的磁盘时,请记住以 GiB 为单位的容量数显得更小。 例如,1023 GiB = 1098.4 GB。
- 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 Mbps,其中 Mbps = 10^6 字节/秒。
- 数据磁盘可以在缓存或非缓存模式下运行。 对于缓存数据磁盘操作,主机缓存模式设置为 “ReadOnly” 或 “ReadWrite”。 对于非缓存数据磁盘操作,主机缓存模式设置为 "None"。
- 如要了解如何为虚拟机获得最佳存储性能,请参阅虚拟机和磁盘性能。
每个大小的网络接口信息
大小名称 |
最大 NIC 数(数量) |
最大带宽 (Mbps) |
Standard_NCC40ads_H100_v5 |
2 |
40000 |
网络资源
表定义
- 预期的网络带宽是指跨所有 NIC 为每个 VM 类型分配的最大聚合带宽,适用于所有目标。 有关详细信息,请参阅虚拟机网络带宽
- 上限不能保证。 这些限制能够为目标应用程序选择适当的虚拟机类型提供指导。 实际的网络性能取决于多种因素,比如网络拥塞、应用程序负载和网络设置。 有关如何优化网络吞吐量的信息,请参阅为 Azure 虚拟机优化网络吞吐量。
- 如要在 Linux 或 Windows 中达到预期的网络性能,可能需要选择特定的版本或优化虚拟机。 有关详细信息,请参阅带宽/吞吐量测试 (NTTTCP)。
每个大小的加速器(GPU、FPGA 等)信息
大小名称 |
加速器(数量) |
加速器内存 (GB) |
Standard_NCC40ads_H100_v5 |
1 |
94 |
正在创建 VM
若要开始使用 NCCads H100 v5 VM 以及有关机密 GPU 驱动程序和证明配置的信息,请参阅机密 GPU 配置
所有可用大小的列表:大小
定价计算器:定价计算器
有关磁盘类型的信息:磁盘类型
后续步骤
了解有关 Azure 计算单元 (ACU) 如何帮助跨 Azure SKU 比较计算性能的详细信息。
请参阅 Azure 专用主机,了解能够托管一个或多个分配给一个 Azure 订阅的虚拟机的物理服务器。
了解如何监视 Azure 虚拟机。