ND-MI300X-v5 サイズ シリーズ
ND MI300X v5 シリーズの仮想マシン (VM) は、Azure GPU ファミリに新たに追加された主力製品です。 これは、ハイエンドのディープ ラーニング トレーニング、および密接に関連したスケールアップおよびスケールアウト生成 AI と HPC ワークロード向けに設計されました。
ND MI300X v5 シリーズ VM の初期状態は、8 個の AMD Instinct MI300 GPU と合計の物理コア数が 96 個となる 2 個の第 4 世代 Intel Xeon スケーラブル プロセッサとなります。 そして、VM 内の各 GPU は、GPU あたり 128 GB/秒の帯域幅と 896 GB/秒の合計帯域幅を持つ第 4 世代 AMD Infinity Fabric リンクを介して相互に接続されます。
ND MI300X v5 ベースのデプロイは、VM あたり 3.2 Tb/秒の相互接続帯域幅を備える数千個の GPU までスケールアップできます。 VM 内の各 GPU には、トポロジに依存しない専用の 400 Gb/秒 NVIDIA Quantum-2 CX7 InfiniBand 接続が用意されています。 これらの接続は、同じ仮想マシンスケール セットを占有する VM 間で自動的に構成され、GPUDirect RDMA をサポートします。
これらのインスタンスは、GPU アクセラレーションを "標準" でサポートするさまざまな AI、ML、分析ツール (TensorFlow、Pytorch、その他のフレームワーク) のための優れたパフォーマンスを発揮します。 さらに、スケールアウト InfiniBand 相互接続は、GPU のシームレスなクラスタリングのために、AMD の ROCm Communication Collectives Library (RCCL) 上に構築された既存の AI および HPC ツールの大規模なセットをサポートします。
ホストの仕様
| 部分 | Quantity 数値単位 |
仕様 SKU ID、パフォーマンス単位など |
|---|---|---|
| プロセッサ | 96 個の vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| [メモリ] | 1850 GiB | |
| ローカル ストレージ | 1 個の一時ディスク 8 個の NVMe ディスク |
1000 GiB の一時ディスク 28000 GiB の NVMe ディスク |
| リモート ストレージ | 32 個のディスク | 80,000 IOPS 1200 MBps |
| ネットワーク | 8 NIC | |
| アクセラレータ | 8 GPU | AMD Instinct MI300X GPU (192GB) |
機能サポート
Premium Storage: サポートされています
Premium Storage キャッシュ: サポートされています
ライブ マイグレーション: サポートされていません
メモリ保持更新: サポートされていません
第 2 世代 VM: サポートされています
第 1 世代 VM: サポートされていません
高速ネットワーク: サポートされています
エフェメラル OS ディスク: サポートされています
入れ子になった仮想化: サポートされていません
シリーズのサイズ
各サイズの vCPU (数量) とメモリ
| サイズ名 | vCPU (数量) | メモリ (GB) |
|---|---|---|
| Standard_ND96isr_MI300X_v5 | 96 | 1850 |
VM の基本リソース
サイズに関するその他の情報
利用可能なすべてのサイズのリスト: サイズ
料金計算ツール: 料金計算ツール
ディスクの種類の情報: ディスクの種類
次のステップ
仮想マシンのサイズを変更して、ワークロードで使用できる最新のパフォーマンスと機能を活用します。
Azure Cobalt VM を使用して、Microsoft の社内設計の ARM プロセッサを利用します。
Azure Virtual Machines を監視する方法をご確認ください。