NCads H100 v5 シリーズ
適用対象: ✔️ Linux VM ✔️ Windows VM ✔️ フレキシブル スケール セット ✔️ 均一スケール セット
NCads H100 v5 シリーズ仮想マシン (VM) は、Azure GPU ファミリに新たに追加されたものです。 このシリーズは、実際の Azure Applied AI のトレーニングとバッチ推論ワークロードに使用できます。 NCads H100 v5 シリーズの仮想マシンは、NVIDIA H100 NVL GPU と第 4 世代 AMD EPYC™ Genoa プロセッサを搭載しています。 この VM には、最大 2 個の NVIDIA H100 NVL GPU (それぞれに 94 GB のメモリを装備)、最大 96 個の非マルチスレッド AMD EPYC Genoa プロセッサ コア、640 GiB のシステム メモリが搭載されています。 これらの VM は、次のような実際の Applied AI ワークロードに最適です。
- GPU で高速化された分析とデータベース
- 大量の前処理と後処理があるバッチ推論
- 自律性モデルのトレーニング
- 石油とガスの貯留層シミュレーション
- 機械学習 (ML) 開発
- ビデオの処理
- AI/ML Web サービス
サポートされている機能
NCads H100 v5 VM の使用を開始するには、「HPC ワークロードの構成と最適化」を参照してドライバーとネットワークの構成などの手順を確認してください。
GPU メモリの I/O 占有領域の増加により、NCads H100 v5 では、第 2 世代の VM とマーケットプレース イメージを使用する必要があります。 構成については、Azure HPC イメージの指示に従ってください。
- Premium Storage: サポートされています
- Premium Storage キャッシュ: サポートされています
- Ultra Disks: サポートされていません
- ライブ マイグレーション: サポートされていません
- メモリ保持更新: サポートされていません
- VM 世代サポート: 第 2 世代
- 高速ネットワーク:サポートされています
- エフェメラル OS ディスク:サポートされています
- Infiniband: サポートされていません
- Nvidia NVLink Interconnect: サポートされています
- 入れ子になった仮想化: サポートされていません
| サイズ | vCPU | メモリ (GiB) | 一時ディスク NVMe (GiB) | GPU | GPU メモリ (GiB) | 最大データ ディスク数 | キャッシュ不使用時の最大ディスク スループット (IOPS / MBps) | NIC の最大数/ネットワーク帯域幅 (Mbps) |
|---|---|---|---|---|---|---|---|---|
| Standard_NC40ads_H100_v5 | 40 | 320 | 3576 | 1 | 94 | 8 | 100000/3000 | 2/40,000 |
| Standard_NC80adis_H100_v5 | 80 | 640 | 7152 | 2 | 188 | 16 | 240000/7000 | 4/80,000 |
1 1 GPU = H100 カード 1 枚
2 ローカル NVMe ディスクは一時的なものです。 VM を停止 / 割り当て解除すると、これらのディスク上のデータは失われます。 ローカル NVMe ディスクは、ホストでの暗号化を有効にした場合でも、Azure Storage 暗号化によって暗号化されません。
サイズ表の定義
ストレージ容量は GiB (1024^3 バイト) 単位で示されています。 GB (1000^3 バイト) 単位のディスクと GiB (1024^3 バイト) 単位のディスクを比較する場合は、GiB 単位の方が容量の数値が小さく見えることに注意してください。 たとえば、1023 GiB = 1098.4 GB です。
ディスク スループットの測定単位は、1 秒あたりの入力/出力操作数 (IOPS) および MBps です (MBps = 10^6 バイト/秒)。
データ ディスクは、キャッシュを有効にしたモードでも無効化したモードでも動作します。 キャッシュを有効にしたデータ ディスクの操作では、ホスト キャッシュ モードは ReadOnly または ReadWrite に設定されています。 キャッシュを無効にしたデータ ディスクの操作では、ホスト キャッシュ モードは Noneに設定されています。
VM の最高のストレージ パフォーマンスを得る方法については、「仮想マシンとディスクのパフォーマンス」を参照してください。
想定ネットワーク帯域幅は、すべての宛先について、すべての NIC で VM の種類ごとに割り当てられた最大集約帯域幅です。 詳しくは、「仮想マシンのネットワーク帯域幅」を参照してください。
上限は保証されていません。 制限は、目的のアプリケーションに適した VM の種類を選択するためのガイダンスを示しています。 実際のネットワークのパフォーマンスは、ネットワークの輻輳、アプリケーションの負荷、ネットワーク設定などのさまざまな要因に左右されます。 ネットワーク スループットの最適化については、「Azure 仮想マシンのネットワーク スループットの最適化」を参照してください。 Linux または Windows で想定ネットワーク パフォーマンスを実現するには、特定のバージョンの選択または VM の最適化が必要になる場合があります。 詳細については、「帯域幅/スループットのテスト (NTTTCP)」を参照してください。
その他のサイズと情報
Azure VM のコストを見積もるには、料金計算ツールを使用できます。
ディスクの種類の詳細については、「Azure で利用できるディスクの種類」を参照してください