Grundlegendes zur Lösungsarchitektur
Zur Planung von Skalierung und Automatisierung haben Sie mit mehreren Beteiligten zusammengearbeitet, um über eine MLOps-Architektur (Machine Learning Operations) zu entscheiden.
Hinweis
Das Diagramm zeigt eine vereinfachte Darstellung einer MLOps-Architektur. Eine detailliertere Beschreibung der Architektur finden Sie in den Anwendungsfällen im Solution Accelerator für MLOps (v2).
Die Architektur umfasst:
- Setup: Erstellen aller erforderlichen Azure-Ressourcen für die Lösung.
- Modellentwicklung (innere Schleife): Untersuchen und Verarbeiten der Daten zum Trainieren und Auswerten des Modells.
- Continuous Integration: Packen und Registrieren des Modells.
- Modellbereitstellung (äußere Schleife): Bereitstellen des Modells.
- Continuous Deployment: Testen des Modells und Höherstufen in die Produktionsumgebung.
- Überwachung: Überwachen der Modell- und Endpunktleistung.
Das Wichtigste für die aktuelle Herausforderung ist, ein Modell von der Modellentwicklung in die Modellimplementierung zu übernehmen. Im Schritt zwischen diesen beiden Schleifen wird das Modell gepackt und registriert. Nachdem das Data Science-Team ein Modell trainiert hat, ist es wichtig, das Modell zu packen und im Azure Machine Learning-Arbeitsbereich zu registrieren. Sobald das Modell registriert wurde, ist es an der Zeit, das Modell bereitzustellen.
Es gibt mehrere Ansätze zum Packen des Modells. Nachdem Sie einige Optionen wie das Arbeiten mit Pickle-Dateien überprüft haben, haben Sie mit dem Data Science-Team entschieden, mit MLflow zu arbeiten. Wenn Sie das Modell als MLflow-Modell registrieren, können Sie sich für die Bereitstellung ohne Code im Azure Machine Learning-Arbeitsbereich entscheiden. Wenn Sie die Bereitstellung ohne Code verwenden, müssen Sie das Bewertungsskript und die Umgebung nicht erstellen, damit die Bereitstellung funktioniert.
Wenn Sie ein Modell bereitstellen möchten, haben Sie die Wahl zwischen einem Onlineendpunkt für Echtzeitvorhersagen oder einem Batchendpunkt für Batchvorhersagen. Da das Modell mit einer Web-App integriert wird, in der der Arzt medizinische Daten in der Erwartung eingibt, eine direkte Antwort zu erhalten, wählen Sie die Bereitstellung des Modells auf einem Onlineendpunkt aus.
Sie können das Modell manuell im Azure Machine Learning-Arbeitsbereich bereitstellen. Sie erwarten jedoch, dass in Zukunft weitere Modelle bereitgestellt werden. Und Sie möchten das Diabetesklassifizierungsmodell problemlos erneut bereitstellen, wenn das Modell neu trainiert wurde. Sie möchten daher die Modellimplementierung möglichst automatisieren.
Hinweis
Obwohl die Automatisierung ein wichtiger Aspekt von MLOps ist, ist es wichtig, einen Human-in-the-Loop beizubehalten. Es empfiehlt sich, das Modell zu überprüfen, bevor es automatisch bereitgestellt wird.