ND-MI300X-v5 サイズ シリーズ
- [アーティクル]
-
-
ND MI300X v5 シリーズの仮想マシン (VM) は、Azure GPU ファミリに新たに追加された主力製品です。 これは、ハイエンドのディープ ラーニング トレーニング、および密接に関連したスケールアップおよびスケールアウト生成 AI と HPC ワークロード向けに設計されました。
ND MI300X v5 シリーズ VM の初期状態は、8 個の AMD Instinct MI300 GPU と合計の物理コア数が 96 個となる 2 個の第 4 世代 Intel Xeon スケーラブル プロセッサとなります。 そして、VM 内の各 GPU は、GPU あたり 128 GB/秒の帯域幅と 896 GB/秒の合計帯域幅を持つ第 4 世代 AMD Infinity Fabric リンクを介して相互に接続されます。
ND MI300X v5 ベースのデプロイは、VM あたり 3.2 Tb/秒の相互接続帯域幅を備える数千個の GPU までスケールアップできます。 VM 内の各 GPU には、トポロジに依存しない専用の 400 Gb/秒 NVIDIA Quantum-2 CX7 InfiniBand 接続が用意されています。 これらの接続は、同じ仮想マシンスケール セットを占有する VM 間で自動的に構成され、GPUDirect RDMA をサポートします。
これらのインスタンスは、GPU アクセラレーションを "標準" でサポートするさまざまな AI、ML、分析ツール (TensorFlow、Pytorch、その他のフレームワーク) のための優れたパフォーマンスを発揮します。 さらに、スケールアウト InfiniBand 相互接続は、GPU のシームレスなクラスタリングのために、AMD の ROCm Communication Collectives Library (RCCL) 上に構築された既存の AI および HPC ツールの大規模なセットをサポートします。
ホストの仕様
| 部分 |
Quantity
数値単位 |
仕様
SKU ID、パフォーマンス単位など |
| プロセッサ |
96 個の vCPU |
Intel Xeon (Sapphire Rapids) [x86-64] |
| [メモリ] |
1850 GiB |
|
| ローカル ストレージ |
1 個の一時ディスク
8 個の NVMe ディスク |
1000 GiB の一時ディスク
28000 GiB の NVMe ディスク |
| リモート ストレージ |
32 個のディスク |
80,000 IOPS
1200 MBps |
| ネットワーク |
8 NIC |
|
| アクセラレータ |
8 GPU |
AMD Instinct MI300X GPU (192GB) |
機能サポート
Premium Storage: サポートされています
Premium Storage キャッシュ: サポートされています
ライブ マイグレーション: サポートされていません
メモリ保持更新: サポートされていません
第 2 世代 VM: サポートされています
第 1 世代 VM: サポートされていません
高速ネットワーク: サポートされています
エフェメラル OS ディスク: サポートされています
入れ子になった仮想化: サポートされていません
シリーズのサイズ
各サイズの vCPU (数量) とメモリ
| サイズ名 |
vCPU (数量) |
メモリ (GB) |
| Standard_ND96isr_MI300X_v5 |
96 |
1850 |
VM の基本リソース
各サイズのローカル (一時) ストレージ情報
| サイズ 名前 |
最大一時ストレージ ディスク数 (数量) |
一時ディスクのサイズ (GiB) |
最大 NVMe ディスク数 (数量) |
NVMe ディスクのサイズ (TiB) |
| Standard_ND96isr_MI300X_v5 |
1 |
1000 |
8 |
28 |
Storage のリソース
テーブル定義
- 1一時ディスクの RR (ランダム読み込み) 操作と RW (ランダム書き込み) 操作の速度は多くの場合、異なります。 RR 操作は通常、RW 操作よりも高速です。 RW 速度は通常、RR 速度値のみが記載されているシリーズの場合、RR 速度よりも遅くなります。
- ストレージ容量は GiB (1024^3 バイト) 単位で示されています。 GB (1000^3 バイト) 単位のディスクと GiB (1024^3 バイト) 単位のディスクを比較する場合は、GiB 単位の方が容量の数値が小さく見えることに注意してください。 たとえば、1023 GiB = 1098.4 GB です。
- ディスク スループットの測定単位は、1 秒あたりの入力/出力操作数 (IOPS) および MBps です (MBps = 10^6 バイト/秒)。
- VM の最高のストレージ パフォーマンスを得る方法については、「仮想マシンとディスクのパフォーマンス」を参照してください。
各サイズのリモート (キャッシュされていない) ストレージ情報
| サイズ 名前 |
最大リモート ストレージ ディスク数 (数量) |
キャッシュされていないディスクの IOPS |
キャッシュされていないディスクの速度 (MBps) |
| Standard_ND96isr_MI300X_v5 |
16 |
80000 |
1200 |
Storage のリソース
テーブル定義
- 1一部のサイズでは、ディスクのパフォーマンスを一時的に向上させるバーストがサポートされています。 バースト速度は、一度に最大 30 分間維持できます。
- 2特殊ストレージとは、Ultra Disk または Premium SSD v2 ストレージを指します。
- ストレージ容量は GiB (1024^3 バイト) 単位で示されています。 GB (1000^3 バイト) 単位のディスクと GiB (1024^3 バイト) 単位のディスクを比較する場合は、GiB 単位の方が容量の数値が小さく見えることに注意してください。 たとえば、1023 GiB = 1098.4 GB です。
- ディスク スループットの測定単位は、1 秒あたりの入力/出力操作数 (IOPS) および MBps です (MBps = 10^6 バイト/秒)。
- データ ディスクは、キャッシュを有効にしたモードでも無効化したモードでも動作します。 キャッシュを有効にしたデータ ディスクの操作では、ホスト キャッシュ モードは ReadOnly または ReadWrite に設定されています。 キャッシュを無効にしたデータ ディスクの操作では、ホスト キャッシュ モードは Noneに設定されています。
- VM の最高のストレージ パフォーマンスを得る方法については、「仮想マシンとディスクのパフォーマンス」を参照してください。
各サイズのネットワーク インターフェイス情報
| サイズ名 |
最大 NIC (数量) |
最大帯域幅 (Mbps) |
| Standard_ND96isr_MI300X_v5 |
8 |
80000 |
ネットワーク リソース
テーブル定義
- 想定ネットワーク帯域幅は、すべての宛先について、すべての NIC で VM の種類ごとに割り当てられた最大集約帯域幅です。 詳しくは、「仮想マシンのネットワーク帯域幅」を参照してください
- 上限は保証されていません。 制限は、目的のアプリケーションに適した VM の種類を選択するためのガイダンスを示しています。 実際のネットワークのパフォーマンスは、ネットワークの輻輳、アプリケーションの負荷、ネットワーク設定などのさまざまな要因に左右されます。 ネットワーク スループットの最適化については、「Azure 仮想マシンのネットワーク スループットの最適化」を参照してください。
- Linux または Windows で想定ネットワーク パフォーマンスを実現するには、特定のバージョンの選択または VM の最適化が必要になる場合があります。 詳細については、「帯域幅/スループットのテスト (NTTTCP)」を参照してください。
各サイズのアクセラレータ (GPU、FPGA など) 情報
| サイズ名 |
アクセラレータ (数量) |
アクセラレータ メモリ (GB) |
| Standard_ND96isr_MI300X_v5 |
8 |
1535 |
利用可能なすべてのサイズのリスト: サイズ
料金計算ツール: 料金計算ツール
ディスクの種類の情報: ディスクの種類
次のステップ
Azure コンピューティング ユニット (ACU) を確認することで、Azure SKU 全体の処理性能を比較できます。
1 つの Azure サブスクリプションに割り当てられた 1 つ以上の仮想マシンをホストできる物理サーバーについては、Azure 専用ホストを確認してください。
Azure Virtual Machines を監視する方法をご確認ください。