De oplossingsarchitectuur verkennen
Als u de schaal en automatisering wilt plannen, hebt u samen met verschillende belanghebbenden samengewerkt om te beslissen over een MLOps-architectuur (Machine Learning Operations).
Notitie
Het diagram is een vereenvoudigde weergave van een MLOps-architectuur. Als u een gedetailleerdere architectuur wilt bekijken, bekijkt u de verschillende use cases in de MLOps-oplossingsversneller (v2).
De architectuur bevat:
- Installatie: Maak alle benodigde Azure-resources voor de oplossing.
- Modelontwikkeling (interne lus): de gegevens verkennen en verwerken om het model te trainen en te evalueren.
- Continue integratie: het model verpakken en registreren.
- Modelimplementatie (outer loop): implementeer het model.
- Continue implementatie: test het model en promoot het naar de productieomgeving.
- Bewaking: model- en eindpuntprestaties bewaken.
Het belangrijkste voor de huidige uitdaging is om een model te nemen van modelontwikkeling tot modelimplementatie. De stap tussen deze twee lussen is het verpakken en registreren van het model. Nadat het data science-team een model heeft getraind, is het essentieel om het model te verpakken en te registreren in de Azure Machine Learning-werkruimte. Zodra het model is geregistreerd, is het tijd om het model te implementeren.
Er zijn verschillende benaderingen om het model te verpakken. Nadat u enkele opties hebt bekeken, zoals het werken met pickle-bestanden, hebt u besloten met het data science-team om met MLflow te werken. Wanneer u het model registreert als een MLflow-model, kunt u kiezen voor implementatie zonder code in de Azure Machine Learning-werkruimte. wanneer u implementatie zonder code gebruikt, hoeft u het scorescript en de omgeving niet te maken om de implementatie te laten werken.
Wanneer u een model wilt implementeren, hebt u een keuze tussen een online-eindpunt voor realtime voorspellingen of een batcheindpunt voor batchvoorspellingen. Omdat het model wordt geïntegreerd met een web-app waar de arts medische gegevens invoert die een directe reactie verwachten, kiest u ervoor om het model te implementeren op een online-eindpunt.
U kunt het model handmatig implementeren in de Azure Machine Learning-werkruimte. U verwacht echter in de toekomst meer modellen te implementeren. En u wilt het diabetesclassificatiemodel eenvoudig opnieuw implementeren wanneer het model opnieuw is getraind. Daarom wilt u de modelimplementatie waar mogelijk automatiseren.
Notitie
Hoewel automatisering een essentieel aspect van MLOps is, is het essentieel om een human-in-the-loop te onderhouden. Het is een best practice om het model te controleren voordat het automatisch wordt geïmplementeerd.