マネージド オンライン エンドポイント SKU の一覧
次の表は、Azure Machine Learning マネージド オンライン エンドポイントでサポートされている仮想マシン (VM) のストック保持ユニット (SKU) を示しています。 各 SKU は、購入可能な特定の VM に割り当てられた一意の英数字コードです。
表に記載されている完全 SKU 名は、デプロイを作成および更新する目的で Azure CLI または Azure Resource Manager テンプレート (ARM テンプレート) 要求に使用できます。
CPU や RAM などの構成の詳細については、「Azure Machine Learning の価格」と「VM サイズ」を参照してください。
| Family Name | VM サイズ名 | Infiniband をサポートしています | Architecture | numberOfGPUs | numberOfCores | 20% の予約をスキップする |
|---|---|---|---|---|---|---|
| standardDASv4Family | STANDARD_D2AS_V4 | - | Cpu | 0 | 2 | - |
| standardDASv4Family | STANDARD_D4AS_V4 | - | Cpu | 0 | 4 | - |
| standardDASv4Family | STANDARD_D8AS_V4 | - | Cpu | 0 | 8 | - |
| standardDASv4Family | STANDARD_D16AS_V4 | - | Cpu | 0 | 16 | - |
| standardDASv4Family | STANDARD_D32AS_V4 | - | Cpu | 0 | 32 | - |
| standardDASv4Family | STANDARD_D48AS_V4 | - | Cpu | 0 | 48 | - |
| standardDASv4Family | STANDARD_D64AS_V4 | - | Cpu | 0 | 64 | - |
| standardDASv4Family | STANDARD_D96AS_V4 | - | Cpu | 0 | 96 | - |
| standardDAv4Family | STANDARD_D2A_V4 | - | Cpu | 0 | 2 | - |
| standardDAv4Family | STANDARD_D4A_V4 | - | Cpu | 0 | 4 | - |
| standardDAv4Family | STANDARD_D8A_V4 | - | Cpu | 0 | 8 | - |
| standardDAv4Family | STANDARD_D16A_V4 | - | Cpu | 0 | 16 | - |
| standardDAv4Family | STANDARD_D32A_V4 | - | Cpu | 0 | 32 | - |
| standardDAv4Family | STANDARD_D48A_V4 | - | Cpu | 0 | 48 | - |
| standardDAv4Family | STANDARD_D64A_V4 | - | Cpu | 0 | 64 | - |
| standardDAv4Family | STANDARD_D96A_V4 | - | Cpu | 0 | 96 | - |
| standardDSv2Family | STANDARD_DS1_V2 | - | Cpu | 0 | 1 | - |
| standardDSv2Family | STANDARD_DS2_V2 | - | Cpu | 0 | 2 | - |
| standardDSv2Family | STANDARD_DS3_V2 | - | Cpu | 0 | 4 | - |
| standardDSv2Family | STANDARD_DS4_V2 | - | Cpu | 0 | 8 | - |
| standardDSv2Family | STANDARD_DS5_V2 | - | Cpu | 0 | 16 | - |
| standardESv3Family | STANDARD_E2S_V3 | - | Cpu | 0 | 2 | - |
| standardESv3Family | STANDARD_E4S_V3 | - | Cpu | 0 | 4 | - |
| standardESv3Family | STANDARD_E8S_V3 | - | Cpu | 0 | 8 | - |
| standardESv3Family | STANDARD_E16S_V3 | - | Cpu | 0 | 16 | - |
| standardESv3Family | STANDARD_E32S_V3 | - | Cpu | 0 | 32 | - |
| standardESv3Family | STANDARD_E48S_V3 | - | Cpu | 0 | 48 | - |
| standardESv3Family | STANDARD_E64S_V3 | - | Cpu | 0 | 64 | - |
| standardFSv2Family | STANDARD_F2S_V2 | - | Cpu | 0 | 2 | - |
| standardFSv2Family | STANDARD_F4S_V2 | - | Cpu | 0 | 4 | - |
| standardFSv2Family | STANDARD_F8S_V2 | - | Cpu | 0 | 8 | - |
| standardFSv2Family | STANDARD_F16S_V2 | - | Cpu | 0 | 16 | - |
| standardFSv2Family | STANDARD_F32S_V2 | - | Cpu | 0 | 32 | - |
| standardFSv2Family | STANDARD_F48S_V2 | - | Cpu | 0 | 48 | - |
| standardFSv2Family | STANDARD_F64S_V2 | - | Cpu | 0 | 64 | - |
| standardFSv2Family | STANDARD_F72S_V2 | - | Cpu | 0 | 72 | - |
| standardFXMDVSFamily | STANDARD_FX4MDS | - | Cpu | 0 | 4 | - |
| standardFXMDVSFamily | STANDARD_FX12MDS | - | Cpu | 0 | 12 | - |
| standardFXMDVSFamily | STANDARD_FX24MDS | - | Cpu | 0 | 24 | - |
| standardFXMDVSFamily | STANDARD_FX36MDS | - | Cpu | 0 | 36 | - |
| standardFXMDVSFamily | STANDARD_FX48MDS | - | Cpu | 0 | 48 | - |
| standardLASv3Family | STANDARD_L8AS_V3 | - | Cpu | 0 | 8 | - |
| standardLASv3Family | STANDARD_L16AS_V3 | - | Cpu | 0 | 16 | - |
| standardLASv3Family | STANDARD_L32AS_V3 | - | Cpu | 0 | 32 | - |
| standardLASv3Family | STANDARD_L48AS_V3 | - | Cpu | 0 | 48 | - |
| standardLASv3Family | STANDARD_L64AS_V3 | - | Cpu | 0 | 64 | - |
| standardLASv3Family | STANDARD_L80AS_V3 | - | Cpu | 0 | 80 | - |
| standardLSv2Family | STANDARD_L8S_V2 | - | Cpu | 0 | 8 | - |
| standardLSv2Family | STANDARD_L16S_V2 | - | Cpu | 0 | 16 | - |
| standardLSv2Family | STANDARD_L32S_V2 | - | Cpu | 0 | 32 | - |
| standardLSv2Family | STANDARD_L48S_V2 | - | Cpu | 0 | 48 | - |
| standardLSv2Family | STANDARD_L64S_V2 | - | Cpu | 0 | 64 | - |
| standardLSv2Family | STANDARD_L80S_V2 | - | Cpu | 0 | 80 | - |
| standardLSv3Family | STANDARD_L8S_V3 | - | Cpu | 0 | 8 | - |
| standardLSv3Family | STANDARD_L16S_V3 | - | Cpu | 0 | 16 | - |
| standardLSv3Family | STANDARD_L32S_V3 | - | Cpu | 0 | 32 | - |
| standardLSv3Family | STANDARD_L48S_V3 | - | Cpu | 0 | 48 | - |
| standardLSv3Family | STANDARD_L64S_V3 | - | Cpu | 0 | 64 | - |
| standardLSv3Family | STANDARD_L80S_V3 | - | Cpu | 0 | 80 | - |
| standardNCADSA100v4Family | STANDARD_NC24ADS_A100_V4 | - | NvidiaGpu | 1 | 24 | はい |
| standardNCADSA100v4Family | STANDARD_NC48ADS_A100_V4 | - | NvidiaGpu | 2 | 48 | はい |
| standardNCADSA100v4Family | STANDARD_NC96ADS_A100_V4 | - | NvidiaGpu | 4 | 96 | はい |
| スタンダード NCASv3_T4 ファミリー | STANDARD_NC4AS_T4_V3 | - | NvidiaGpu | 1 | 4 | - |
| スタンダード NCASv3_T4 ファミリー | STANDARD_NC8AS_T4_V3 | - | NvidiaGpu | 1 | 8 | - |
| スタンダード NCASv3_T4 ファミリー | STANDARD_NC16AS_T4_V3 | - | NvidiaGpu | 1 | 16 | - |
| スタンダード NCASv3_T4 ファミリー | STANDARD_NC64AS_T4_V3 | - | NvidiaGpu | 4 | 64 | - |
| standardNCSv2Family | STANDARD_NC6S_V2 | - | NvidiaGpu | 1 | 6 | - |
| standardNCSv2Family | STANDARD_NC12S_V2 | - | NvidiaGpu | 2 | 12 | - |
| standardNCSv2Family | STANDARD_NC24S_V2 | - | NvidiaGpu | 4 | 24 | - |
| standardNCSv3Family | STANDARD_NC6S_V3 | - | NvidiaGpu | 1 | 6 | - |
| standardNCSv3Family | STANDARD_NC12S_V3 | - | NvidiaGpu | 2 | 12 | - |
| standardNCSv3Family | STANDARD_NC24S_V3 | - | NvidiaGpu | 4 | 24 | - |
| standardNCADSH100v5Family | STANDARD_NC40ADS_H100_V5 | - | NvidiaGpu | 1 | 40 | はい |
| standardNCADSH100v5Family | STANDARD_NC80ADIS_H100_V5 | - | NvidiaGpu | 2 | 80 | はい |
| 標準NDAMSv4_A100Family | STANDARD_ND96AMSR_A100_V4 | はい | NvidiaGpu | 8 | 96 | はい |
| スタンダード NDASv4_A100 ファミリー | STANDARD_ND96ASR_V4 | はい | NvidiaGpu | 8 | 96 | はい |
| standardNDSv2Family | STANDARD_ND40RS_V2 | はい | NvidiaGpu | 8 | 40 | はい |
| standardNDv5H100Family | STANDARD_ND96IS_H100_v5 | - | NvidiaGpu | 8 | 96 | はい |
| standardNDv5H100Family | STANDARD_ND96ISR_H100_v5 | はい | NvidiaGpu | 8 | 96 | はい |
注意事項
Standard_DS1_v2やStandard_F2s_v2などの小さな VM SKU は、大規模なモデルでは小さすぎる可能性があり、メモリ不足、ディスク上の十分な領域不足、またはコンテナーの開始に時間がかかりすぎるプローブの失敗により、コンテナーが終了する可能性があります。 OutOfQuota エラー または ReourceNotReady エラーが発生した場合は、より大きな VM SKU を試してください。 マネージド オンライン エンドポイントを使用して複数のモデルをデプロイするコストを削減する場合は、「 複数のローカル モデルのデプロイを参照してください。
Note
運用環境のシナリオでのデプロイには、3 つ以上のインスタンスを用意することをお勧めします。 さらに、Azure Machine Learning では、デプロイの仮想マシン クォータの割り当てに関するページで説明されているように、一部の VM SKU でアップグレードを実行するためにコンピューティング リソース 20% が予約されます。 この追加のクォータ予約から除外される VM SKU は、"Skip 20% Reservation" 列に指定されています。