Fördefinierade Docker-avbildningar för slutsatsdragning
Fördefinierade Docker-containeravbildningar för slutsatsdragning används när du distribuerar en modell med Azure Machine Learning. Bilderna är fördefinierade med populära maskininlärningsramverk och Python-paket. Du kan också utöka paketen för att lägga till andra paket med någon av följande metoder:
Varför ska jag använda fördefinierade bilder?
- Minskar svarstiden för modelldistribution
- Förbättrar lyckad modelldistribution
- Undviker onödiga avbildningsversioner under modelldistributionen
- Innehåller endast nödvändiga beroenden och åtkomsträtt i avbildningen/containern
Lista över fördefinierade Docker-avbildningar för slutsatsdragning
Viktigt!
Listan i följande tabell innehåller endast de slutsatsdragnings docker-avbildningar som Azure Machine Learning stöder för närvarande.
- Alla Docker-avbildningar körs som icke-rotanvändare.
- Vi rekommenderar att du använder taggen
latest
för Docker-avbildningar. Fördefinierade Docker-avbildningar för slutsatsdragning publiceras till Microsoft Container Registry (MCR). Information om hur du kör frågor mot listan över tillgängliga taggar finns i MCR GitHub-lagringsplatsen. - Om du vill använda en specifik tagg för en Docker-avbildning för slutsatsdragning stöder Azure Machine Learning taggar som är från
latest
till sex månader äldre änlatest
.
Slutsatsdragning – minimala basavbildningar
Framework-version | CPU/GPU | Förinstallerade paket | MCR-sökväg |
---|---|---|---|
NA | Processor | Inte tillämpligt | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest |
Inte tillämpligt | GPU | Inte tillämpligt | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest |
Inte tillämpligt | Processor | Inte tillämpligt | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest |
Inte tillämpligt | GPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest |
Kommentar
Azure Machine Learning stöder utvalda miljöer. Du kan bläddra bland utvalda miljöer och lägga till filter för Tags: Inferencing
.