ND-H100-v5 サイズ シリーズ
ND H100 v5 シリーズの仮想マシン (VM) は、Azure GPU ファミリに新たに追加された主力製品です。 このシリーズは、ハイエンドのディープ ラーニング トレーニングと、密結合のスケールアップおよびスケールアウト生成 AI と HPC ワークロード向けに設計されています。
ND H100 v5 シリーズは、単一の VM と 8 つの NVIDIA H100 Tensor Core GPU から始まります。 ND H100 v5 ベースのデプロイでは、VM あたり 3.2 Tbps の相互接続帯域幅を備えた数千の GPU までスケールアップできます。 VM 内の各 GPU には、トポロジに依存しない専用の 400 Gb/秒 NVIDIA Quantum-2 CX7 InfiniBand 接続が用意されています。 これらの接続は、同じ仮想マシン スケール セットを占有する VM 間で自動的に構成され、GPU Direct RDMA をサポートします。
各 GPU には、VM 内の通信用の NVLINK 4.0 接続が備わっており、インスタンスには、物理 CPU コア数が 96 個の第 4 世代 Intel Xeon スケーラブル プロセッサが搭載されています。
これらのインスタンスは、GPU アクセラレーションを "標準" でサポートするさまざまな AI、ML、分析ツール (TensorFlow、Pytorch、Caffe、RAPIDS、そのほかのフレームワークなど) を活用して、優れたパフォーマンスを発揮します。 さらに、GPU のシームレスなクラスタリング用に NVIDIA の NCCL 通信ライブラリに基づいて構築された、既存の AI および HPC ツールの大規模なセットによって、スケールアウト InfiniBand 相互接続がサポートされています。
ホストの仕様
| 部分 | Quantity 数値単位 |
仕様 SKU ID、パフォーマンス単位など |
|---|---|---|
| プロセッサ | 96 個の vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| [メモリ] | 1,900 GiB | |
| ローカル ストレージ | 1 個のディスク | 28,000 GiB |
| リモート ストレージ | 32ディスク | |
| ネットワーク | 8 NIC | |
| アクセラレータ | 8 GPU | Nvidia H100 GPU (80GB) |
機能サポート
Premium Storage: サポートされています
Premium Storage キャッシュ: サポートされています
ライブ マイグレーション: サポートされていません
メモリ保持更新: サポートされていません
第 2 世代 VM: サポートされています
第 1 世代 VM: サポートされていません
高速ネットワーク: サポートされています
エフェメラル OS ディスク: サポートされています
入れ子になった仮想化: サポートされていません
Infiniband: サポートされています
重要
ND H100 v5 VM の使用を開始するには、「HPC ワークロードの構成と最適化」を参照してドライバーとネットワークの構成などの手順を確認してください。 GPU メモリの I/O 占有領域の増加により、ND H100 v5 では第 2 世代 VM とマーケットプレース イメージを使用する必要があります。
Azure では、Ubuntu 20.04/22.04、RHEL 7.9/8.7/9.3、AlmaLinux 8.8/9.2、SLES 15 for ND H100 v5 の VM がサポートされています。 現在、Ubuntu-HPC 20.4/22.04 と AlmaLinux-HPC 8.6/8.7 VM イメージがサポートされています。
HPC/AI ワークロード向けに、さまざまな HPC ツールやライブラリがインストールされ、最適化および事前構成された Linux VM イメージのオファリングが用意されています。そのため、これらを強くお勧めします。
イメージをダウンロードするには、Azure Marketplace に移動します。
シリーズのサイズ
各サイズの vCPU (数量) とメモリ
| サイズ名 | vCPU (数量) | メモリ (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1900 |
VM の基本リソース
サイズに関するその他の情報
利用可能なすべてのサイズのリスト: サイズ
料金計算ツール: 料金計算ツール
ディスクの種類の情報: ディスクの種類
次のステップ
Azure コンピューティング ユニット (ACU) を確認することで、Azure SKU 全体の処理性能を比較できます。
1 つの Azure サブスクリプションに割り当てられた 1 つ以上の仮想マシンをホストできる物理サーバーについては、Azure 専用ホストを確認してください。
Azure Virtual Machines を監視する方法をご確認ください。