Prozkoumání strategií nasazení modelu
Po vytrénování modelu je dalším krokem nasazení. Pokud chcete model efektivně nasadit, musíte použít MLflow.
MLflow vám pomůže spravovat celý proces– od parametrů protokolování a metrik až po balení a sdílení modelu.
Musíte také zvážit, jak chcete model nasadit. Můžete zvolit predikce v reálném čase pomocí služby Batch AI Model Serving nebo dávkové předpovědi s úlohami Azure Databricks. Alternativně můžete integrovat se službou Azure Machine Learning a použít její integrované funkce k nasazení modelu do koncového bodu v reálném čase nebo dávkovém koncovém bodu.
Ať zvolíte jakýkoliv přístup, nasazení modelu zajistí, že je váš model připravený pro produkční prostředí a dokáže poskytovat potřebné přehledy.
Použití MLflow pro správu modelů
Azure Databricks funguje s MLflow. MLflow je opensourcová platforma pro správu celého životního cyklu strojového učení.
S MLflow můžete sledovat experimenty, kód balíčku a sdílet a nasazovat modely. MLflow zajišťuje, že se vaše modely konzistentně spravují od vývoje po produkční prostředí.
Sledovací server MLflow umožňuje protokolovat parametry, metriky a artefakty. Možnosti sledování MLflow poskytují komplexní záznam o výkonu modelu a pomáhají s reprodukovatelností.
Tip
Přečtěte si další informace o tom, jak protokolovat , načítat, registrovat a nasazovat modely MLflow.
Nasazení modelů pomocí Databricks
Nasazení modelů pomocí Azure Databricks zahrnuje použití služby Rozhraní API pro architekturu AI pro vytváření rozhraní API na produkční úrovni z vlastních modelů Pythonu.
Vlastní modely Pythonu jsou modely, které trénujete pomocí knihoven, jako jsou scikit-learn, XGBoost, PyTorch a transformátory HuggingFace.
Po trénování zapíšete trénovaný model ve formátu MLflow a zaregistrujete prostředky MLflow v katalogu Unity nebo registru pracovního prostoru.
Po registraci můžete vytvářet a dotazovat modely obsluhující koncové body a zajistit tak, aby vaše modely byly připravené pro predikce v reálném čase integrací koncového bodu do vašich řešení.
Tip
Přečtěte si další informace o nasazení a dotazování vlastního modelu.
Generování dávkových předpovědí
V případech, kdy nejsou předpovědi v reálném čase nezbytné, může být dávkové odvozování efektivnější strategií nasazení. Dávkové předpovědi se často používají ve scénářích, jako je generování pravidelných sestav nebo aktualizace datových skladů pomocí nových přehledů.
Azure Databricks dokáže paralelně zpracovávat velké datové sady pomocí Apache Sparku, což je vhodné pro úlohy dávkového odvozování.
Když spustíte úlohu Azure Databricks, můžete model použít na velké objemy dat naplánovaným způsobem. Můžete generovat dávkové předpovědi nebo přehledy, které je možné podle potřeby ukládat a přistupovat k němu.
Tip
Přečtěte si další informace o tom, jak nasadit modely pro dávkové odvozování a predikce.
Integrace s Azure Machine Learningem
Azure Databricks se integruje se službou Azure Machine Learning a umožňuje nasazovat modely do koncových bodů v pracovním prostoru Azure Machine Learning.
Azure Databricks i Azure Machine Learning pracují s MLflow a spravují modely. Model můžete trénovat v Azure Databricks a uložit ho jako model MLflow. Model MLflow pak můžete zaregistrovat v pracovním prostoru Azure Machine Learning, po kterém můžete model snadno nasadit do dávkového nebo reálného koncového bodu.
Tip
Přečtěte si další informace o koncových bodech služby Azure Machine Learning pro odvozování v produkčním prostředí.