受控線上端點 SKU 清單
下表顯示 Azure 機器學習 受控在線端點支援的虛擬機 (VM) 庫存單位 (SKU)。 每個 SKU 都是指派給可購買的特定 VM 的唯一英數位元程序代碼。
數據表中所列的完整 SKU 名稱可用於 Azure CLI 或 Azure Resource Manager 範本 (ARM 範本) 要求,以建立和更新部署。
如需設定詳細數據的詳細資訊,例如 CPU 和 RAM,請參閱 Azure 機器學習 定價和 VM 大小。
姓氏 | VM 大小名稱 | 支援 Infiniband | 架構 | numberOfGPU | numberOfCores | 略過 20% 保留 |
---|---|---|---|---|---|---|
standardDASv4Family | STANDARD_D2AS_V4 | - | 中央處理器 | 0 | 2 | - |
standardDASv4Family | STANDARD_D4AS_V4 | - | 中央處理器 | 0 | 4 | - |
standardDASv4Family | STANDARD_D8AS_V4 | - | 中央處理器 | 0 | 8 | - |
standardDASv4Family | STANDARD_D16AS_V4 | - | 中央處理器 | 0 | 16 | - |
standardDASv4Family | STANDARD_D32AS_V4 | - | 中央處理器 | 0 | 32 | - |
standardDASv4Family | STANDARD_D48AS_V4 | - | 中央處理器 | 0 | 48 | - |
standardDASv4Family | STANDARD_D64AS_V4 | - | 中央處理器 | 0 | 64 | - |
standardDASv4Family | STANDARD_D96AS_V4 | - | 中央處理器 | 0 | 96 | - |
standardDAv4Family | STANDARD_D2A_V4 | - | 中央處理器 | 0 | 2 | - |
standardDAv4Family | STANDARD_D4A_V4 | - | 中央處理器 | 0 | 4 | - |
standardDAv4Family | STANDARD_D8A_V4 | - | 中央處理器 | 0 | 8 | - |
standardDAv4Family | STANDARD_D16A_V4 | - | 中央處理器 | 0 | 16 | - |
standardDAv4Family | STANDARD_D32A_V4 | - | 中央處理器 | 0 | 32 | - |
standardDAv4Family | STANDARD_D48A_V4 | - | 中央處理器 | 0 | 48 | - |
standardDAv4Family | STANDARD_D64A_V4 | - | 中央處理器 | 0 | 64 | - |
standardDAv4Family | STANDARD_D96A_V4 | - | 中央處理器 | 0 | 96 | - |
standardDSv2Family | STANDARD_DS1_V2 | - | 中央處理器 | 0 | 1 | - |
standardDSv2Family | STANDARD_DS2_V2 | - | 中央處理器 | 0 | 2 | - |
standardDSv2Family | STANDARD_DS3_V2 | - | 中央處理器 | 0 | 4 | - |
standardDSv2Family | STANDARD_DS4_V2 | - | 中央處理器 | 0 | 8 | - |
standardDSv2Family | STANDARD_DS5_V2 | - | 中央處理器 | 0 | 16 | - |
standardESv3Family | STANDARD_E2S_V3 | - | 中央處理器 | 0 | 2 | - |
standardESv3Family | STANDARD_E4S_V3 | - | 中央處理器 | 0 | 4 | - |
standardESv3Family | STANDARD_E8S_V3 | - | 中央處理器 | 0 | 8 | - |
standardESv3Family | STANDARD_E16S_V3 | - | 中央處理器 | 0 | 16 | - |
standardESv3Family | STANDARD_E32S_V3 | - | 中央處理器 | 0 | 32 | - |
standardESv3Family | STANDARD_E48S_V3 | - | 中央處理器 | 0 | 48 | - |
standardESv3Family | STANDARD_E64S_V3 | - | 中央處理器 | 0 | 64 | - |
standardFSv2Family | STANDARD_F2S_V2 | - | 中央處理器 | 0 | 2 | - |
standardFSv2Family | STANDARD_F4S_V2 | - | 中央處理器 | 0 | 4 | - |
standardFSv2Family | STANDARD_F8S_V2 | - | 中央處理器 | 0 | 8 | - |
standardFSv2Family | STANDARD_F16S_V2 | - | 中央處理器 | 0 | 16 | - |
standardFSv2Family | STANDARD_F32S_V2 | - | 中央處理器 | 0 | 32 | - |
standardFSv2Family | STANDARD_F48S_V2 | - | 中央處理器 | 0 | 48 | - |
standardFSv2Family | STANDARD_F64S_V2 | - | 中央處理器 | 0 | 64 | - |
standardFSv2Family | STANDARD_F72S_V2 | - | 中央處理器 | 0 | 72 | - |
standardFXMDVSFamily | STANDARD_FX4MDS | - | 中央處理器 | 0 | 4 | - |
standardFXMDVSFamily | STANDARD_FX12MDS | - | 中央處理器 | 0 | 12 | - |
standardFXMDVSFamily | STANDARD_FX24MDS | - | 中央處理器 | 0 | 24 | - |
standardFXMDVSFamily | STANDARD_FX36MDS | - | 中央處理器 | 0 | 36 | - |
standardFXMDVSFamily | STANDARD_FX48MDS | - | 中央處理器 | 0 | 48 | - |
standardLASv3Family | STANDARD_L8AS_V3 | - | 中央處理器 | 0 | 8 | - |
standardLASv3Family | STANDARD_L16AS_V3 | - | 中央處理器 | 0 | 16 | - |
standardLASv3Family | STANDARD_L32AS_V3 | - | 中央處理器 | 0 | 32 | - |
standardLASv3Family | STANDARD_L48AS_V3 | - | 中央處理器 | 0 | 48 | - |
standardLASv3Family | STANDARD_L64AS_V3 | - | 中央處理器 | 0 | 64 | - |
standardLASv3Family | STANDARD_L80AS_V3 | - | 中央處理器 | 0 | 80 | - |
standardLSv2Family | STANDARD_L8S_V2 | - | 中央處理器 | 0 | 8 | - |
standardLSv2Family | STANDARD_L16S_V2 | - | 中央處理器 | 0 | 16 | - |
standardLSv2Family | STANDARD_L32S_V2 | - | 中央處理器 | 0 | 32 | - |
standardLSv2Family | STANDARD_L48S_V2 | - | 中央處理器 | 0 | 48 | - |
standardLSv2Family | STANDARD_L64S_V2 | - | 中央處理器 | 0 | 64 | - |
standardLSv2Family | STANDARD_L80S_V2 | - | 中央處理器 | 0 | 80 | - |
standardLSv3Family | STANDARD_L8S_V3 | - | 中央處理器 | 0 | 8 | - |
standardLSv3Family | STANDARD_L16S_V3 | - | 中央處理器 | 0 | 16 | - |
standardLSv3Family | STANDARD_L32S_V3 | - | 中央處理器 | 0 | 32 | - |
standardLSv3Family | STANDARD_L48S_V3 | - | 中央處理器 | 0 | 48 | - |
standardLSv3Family | STANDARD_L64S_V3 | - | 中央處理器 | 0 | 64 | - |
standardLSv3Family | STANDARD_L80S_V3 | - | 中央處理器 | 0 | 80 | - |
standardNCADSA100v4Family | STANDARD_NC24ADS_A100_V4 | - | NvidiaGpu | 1 | 24 | Yes |
standardNCADSA100v4Family | STANDARD_NC48ADS_A100_V4 | - | NvidiaGpu | 2 | 48 | Yes |
standardNCADSA100v4Family | STANDARD_NC96ADS_A100_V4 | - | NvidiaGpu | 4 | 96 | Yes |
標準NCASv3_T4系列 | STANDARD_NC4AS_T4_V3 | - | NvidiaGpu | 1 | 4 | - |
標準NCASv3_T4系列 | STANDARD_NC8AS_T4_V3 | - | NvidiaGpu | 1 | 8 | - |
標準NCASv3_T4系列 | STANDARD_NC16AS_T4_V3 | - | NvidiaGpu | 1 | 16 | - |
標準NCASv3_T4系列 | STANDARD_NC64AS_T4_V3 | - | NvidiaGpu | 4 | 64 | - |
standardNCSv2Family | STANDARD_NC6S_V2 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv2Family | STANDARD_NC12S_V2 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv2Family | STANDARD_NC24S_V2 | - | NvidiaGpu | 4 | 24 | - |
standardNCSv3Family | STANDARD_NC6S_V3 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv3Family | STANDARD_NC12S_V3 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv3Family | STANDARD_NC24S_V3 | - | NvidiaGpu | 4 | 24 | - |
standardNCADSH100v5Family | STANDARD_NC40ADS_H100_V5 | - | NvidiaGpu | 1 | 40 | Yes |
standardNCADSH100v5Family | STANDARD_NC80ADIS_H100_V5 | - | NvidiaGpu | 2 | 80 | Yes |
標準NDAMSv4_A100Family | STANDARD_ND96AMSR_A100_V4 | Yes | NvidiaGpu | 8 | 96 | Yes |
標準NDASv4_A100系列 | STANDARD_ND96ASR_V4 | Yes | NvidiaGpu | 8 | 96 | Yes |
standardNDSv2Family | STANDARD_ND40RS_V2 | Yes | NvidiaGpu | 8 | 40 | Yes |
standardNDv5H100Family | STANDARD_ND96IS_H100_v5 | - | NvidiaGpu | 8 | 96 | Yes |
standardNDv5H100Family | STANDARD_ND96ISR_H100_v5 | Yes | NvidiaGpu | 8 | 96 | Yes |
警告
小型 VM SKU,例如 Standard_DS1_v2
和 Standard_F2s_v2
可能對於較大的模型而言太小,而且可能會因為記憶體不足、磁碟空間不足或探查失敗而導致容器終止,因為起始容器所需的時間太長。 如果您遇到 OutOfQuota 錯誤 或 ReourceNotReady 錯誤,請嘗試較大的 VM SKU。 如果您想要降低使用受控在線端點部署多個模型的成本,請參閱 部署數個本機模型。
注意
我們建議在生產案例中部署超過 3 個實例。 此外,Azure 機器學習 會保留 20% 的計算資源,以在某些 VM SKU 上執行升級,如虛擬機配額配置中用於部署所述。 在 [略過 20% 保留] 資料行中,會指定免除此額外配額保留的 VM SKU。