Seznam skladových položek spravovaných online koncových bodů
Následující tabulka ukazuje skladové jednotky (SKU) virtuálních počítačů, které jsou podporované pro online koncové body spravované službou Azure Machine Learning. Každá skladová položka je jedinečný alfanumerický kód přiřazený konkrétnímu virtuálnímu počítači, který je možné zakoupit.
Úplné názvy skladových položek uvedené v tabulce se dají použít pro požadavky Azure CLI nebo šablon Azure Resource Manageru (šablony ARM) k vytváření a aktualizaci nasazení.
Další informace o podrobnostech o konfiguraci, jako je procesor a paměť RAM, najdete v tématu Ceny služby Azure Machine Learning a velikosti virtuálních počítačů.
Příjmení | Název velikosti virtuálního počítače | Podporuje Infiniband. | Architektura | numberOfGPUs | numberOfCores | Přeskočit 20% rezervaci |
---|---|---|---|---|---|---|
standardDASv4Family | STANDARD_D2AS_V4 | - | Procesor | 0 | 2 | - |
standardDASv4Family | STANDARD_D4AS_V4 | - | Procesor | 0 | 4 | - |
standardDASv4Family | STANDARD_D8AS_V4 | - | Procesor | 0 | 8 | - |
standardDASv4Family | STANDARD_D16AS_V4 | - | Procesor | 0 | 16 | - |
standardDASv4Family | STANDARD_D32AS_V4 | - | Procesor | 0 | 32 | - |
standardDASv4Family | STANDARD_D48AS_V4 | - | Procesor | 0 | 48 | - |
standardDASv4Family | STANDARD_D64AS_V4 | - | Procesor | 0 | 64 | - |
standardDASv4Family | STANDARD_D96AS_V4 | - | Procesor | 0 | 96 | - |
standardDAv4Family | STANDARD_D2A_V4 | - | Procesor | 0 | 2 | - |
standardDAv4Family | STANDARD_D4A_V4 | - | Procesor | 0 | 4 | - |
standardDAv4Family | STANDARD_D8A_V4 | - | Procesor | 0 | 8 | - |
standardDAv4Family | STANDARD_D16A_V4 | - | Procesor | 0 | 16 | - |
standardDAv4Family | STANDARD_D32A_V4 | - | Procesor | 0 | 32 | - |
standardDAv4Family | STANDARD_D48A_V4 | - | Procesor | 0 | 48 | - |
standardDAv4Family | STANDARD_D64A_V4 | - | Procesor | 0 | 64 | - |
standardDAv4Family | STANDARD_D96A_V4 | - | Procesor | 0 | 96 | - |
standardDSv2Family | STANDARD_DS1_V2 | - | Procesor | 0 | 1 | - |
standardDSv2Family | STANDARD_DS2_V2 | - | Procesor | 0 | 2 | - |
standardDSv2Family | STANDARD_DS3_V2 | - | Procesor | 0 | 4 | - |
standardDSv2Family | STANDARD_DS4_V2 | - | Procesor | 0 | 8 | - |
standardDSv2Family | STANDARD_DS5_V2 | - | Procesor | 0 | 16 | - |
standardESv3Family | STANDARD_E2S_V3 | - | Procesor | 0 | 2 | - |
standardESv3Family | STANDARD_E4S_V3 | - | Procesor | 0 | 4 | - |
standardESv3Family | STANDARD_E8S_V3 | - | Procesor | 0 | 8 | - |
standardESv3Family | STANDARD_E16S_V3 | - | Procesor | 0 | 16 | - |
standardESv3Family | STANDARD_E32S_V3 | - | Procesor | 0 | 32 | - |
standardESv3Family | STANDARD_E48S_V3 | - | Procesor | 0 | 48 | - |
standardESv3Family | STANDARD_E64S_V3 | - | Procesor | 0 | 64 | - |
standardFSv2Family | STANDARD_F2S_V2 | - | Procesor | 0 | 2 | - |
standardFSv2Family | STANDARD_F4S_V2 | - | Procesor | 0 | 4 | - |
standardFSv2Family | STANDARD_F8S_V2 | - | Procesor | 0 | 8 | - |
standardFSv2Family | STANDARD_F16S_V2 | - | Procesor | 0 | 16 | - |
standardFSv2Family | STANDARD_F32S_V2 | - | Procesor | 0 | 32 | - |
standardFSv2Family | STANDARD_F48S_V2 | - | Procesor | 0 | 48 | - |
standardFSv2Family | STANDARD_F64S_V2 | - | Procesor | 0 | 64 | - |
standardFSv2Family | STANDARD_F72S_V2 | - | Procesor | 0 | 72 | - |
standardFXMDVSFamily | STANDARD_FX4MDS | - | Procesor | 0 | 4 | - |
standardFXMDVSFamily | STANDARD_FX12MDS | - | Procesor | 0 | 12 | - |
standardFXMDVSFamily | STANDARD_FX24MDS | - | Procesor | 0 | 24 | - |
standardFXMDVSFamily | STANDARD_FX36MDS | - | Procesor | 0 | 36 | - |
standardFXMDVSFamily | STANDARD_FX48MDS | - | Procesor | 0 | 48 | - |
standardLASv3Family | STANDARD_L8AS_V3 | - | Procesor | 0 | 8 | - |
standardLASv3Family | STANDARD_L16AS_V3 | - | Procesor | 0 | 16 | - |
standardLASv3Family | STANDARD_L32AS_V3 | - | Procesor | 0 | 32 | - |
standardLASv3Family | STANDARD_L48AS_V3 | - | Procesor | 0 | 48 | - |
standardLASv3Family | STANDARD_L64AS_V3 | - | Procesor | 0 | 64 | - |
standardLASv3Family | STANDARD_L80AS_V3 | - | Procesor | 0 | 80 | - |
standardLSv2Family | STANDARD_L8S_V2 | - | Procesor | 0 | 8 | - |
standardLSv2Family | STANDARD_L16S_V2 | - | Procesor | 0 | 16 | - |
standardLSv2Family | STANDARD_L32S_V2 | - | Procesor | 0 | 32 | - |
standardLSv2Family | STANDARD_L48S_V2 | - | Procesor | 0 | 48 | - |
standardLSv2Family | STANDARD_L64S_V2 | - | Procesor | 0 | 64 | - |
standardLSv2Family | STANDARD_L80S_V2 | - | Procesor | 0 | 80 | - |
standardLSv3Family | STANDARD_L8S_V3 | - | Procesor | 0 | 8 | - |
standardLSv3Family | STANDARD_L16S_V3 | - | Procesor | 0 | 16 | - |
standardLSv3Family | STANDARD_L32S_V3 | - | Procesor | 0 | 32 | - |
standardLSv3Family | STANDARD_L48S_V3 | - | Procesor | 0 | 48 | - |
standardLSv3Family | STANDARD_L64S_V3 | - | Procesor | 0 | 64 | - |
standardLSv3Family | STANDARD_L80S_V3 | - | Procesor | 0 | 80 | - |
standardNCADSA100v4Family | STANDARD_NC24ADS_A100_V4 | - | NvidiaGpu | 0 | 24 | Ano |
standardNCADSA100v4Family | STANDARD_NC48ADS_A100_V4 | - | NvidiaGpu | 2 | 48 | Ano |
standardNCADSA100v4Family | STANDARD_NC96ADS_A100_V4 | - | NvidiaGpu | 4 | 96 | Ano |
Standardní NCASv3_T4 rodina | STANDARD_NC4AS_T4_V3 | - | NvidiaGpu | 1 | 4 | - |
Standardní NCASv3_T4 rodina | STANDARD_NC8AS_T4_V3 | - | NvidiaGpu | 1 | 8 | - |
Standardní NCASv3_T4 rodina | STANDARD_NC16AS_T4_V3 | - | NvidiaGpu | 0 | 16 | - |
Standardní NCASv3_T4 rodina | STANDARD_NC64AS_T4_V3 | - | NvidiaGpu | 4 | 64 | - |
standardNCSv2Family | STANDARD_NC6S_V2 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv2Family | STANDARD_NC12S_V2 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv2Family | STANDARD_NC24S_V2 | - | NvidiaGpu | 4 | 24 | - |
standardNCSv3Family | STANDARD_NC6S_V3 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv3Family | STANDARD_NC12S_V3 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv3Family | STANDARD_NC24S_V3 | - | NvidiaGpu | 4 | 24 | - |
standardNCADSH100v5Family | STANDARD_NC40ADS_H100_V5 | - | NvidiaGpu | 0 | 40 | Ano |
standardNCADSH100v5Family | STANDARD_NC80ADIS_H100_V5 | - | NvidiaGpu | 2 | 80 | Ano |
standardní NDAMSv4_A100Family | STANDARD_ND96AMSR_A100_V4 | Ano | NvidiaGpu | 8 | 96 | Ano |
Standardní rodina NDASv4_A100 | STANDARD_ND96ASR_V4 | Ano | NvidiaGpu | 8 | 96 | Ano |
standardNDSv2Family | STANDARD_ND40RS_V2 | Ano | NvidiaGpu | 8 | 40 | Ano |
standardNDv5H100Family | STANDARD_ND96IS_H100_v5 | - | NvidiaGpu | 8 | 96 | Ano |
standardNDv5H100Family | STANDARD_ND96ISR_H100_v5 | Ano | NvidiaGpu | 8 | 96 | Ano |
Upozornění
Malé skladové položky virtuálních počítačů, jako Standard_DS1_v2
jsou a Standard_F2s_v2
můžou být pro větší modely příliš malé a můžou vést k ukončení kontejneru kvůli nedostatku paměti, nedostatku místa na disku nebo selhání sondy, protože spuštění kontejneru trvá příliš dlouho. Pokud dojde k chybám OutOfQuota nebo chybám ReourceNotReady, zkuste větší skladové položky virtuálních počítačů. Pokud chcete snížit náklady na nasazení více modelů se spravovaným online koncovým bodem, přečtěte si téma Nasazení pro několik místních modelů.
Poznámka:
Pro nasazení v produkčních scénářích doporučujeme mít více než 3 instance. Kromě toho si Azure Machine Learning rezervuje 20 % výpočetních prostředků pro provádění upgradů u některých skladových položek virtuálních počítačů, jak je popsáno v přidělování kvót virtuálních počítačů pro nasazení. Skladové položky virtuálních počítačů, které jsou z této rezervace extra kvóty vyloučené, se zadají ve sloupci Přeskočit 20% rezervace.