Voranbringen Ihres Reifegrads für GenAIOps (Generative Artificial Intelligence Operations)
GenAIOps oder Generative Artificial Intelligence Operations (manchmal als LLMOps bezeichnet) beschreibt die operativen Verfahren und Strategien für die Verwaltung großer Sprachmodelle (LLMs) in der Produktion. Dieser Artikel enthält einen Leitfaden dazu, wie Sie Ihre Fähigkeiten bei GenAIOps basierend auf dem aktuellen Reifegrad Ihrer Organisation voranbringen.
Verwenden Sie die nachstehenden Beschreibungen, um die Ebene für Ihr GenAIOps-Reifegradmodell zu finden. Diese Ebenen bieten ein allgemeines Verständnis und eine praktische Anwendungsebene Ihrer Organisation. Die Leitfäden enthalten hilfreiche Links, um Ihre GenAIOps-Wissensdatenbank zu erweitern.
Tipp
Verwenden Sie diese Bewertungen für das GenAIOps-Reifegradmodell, um den aktuellen GenAIOps-Reifegrad Ihrer Organisation zu ermitteln. Der Fragebogen soll Ihnen dabei helfen, die aktuellen Fähigkeiten Ihrer Organisation zu verstehen und Bereiche mit Verbesserungspotenzial zu ermitteln.
Ihre Ergebnisse aus der Bewertung ergeben eine Einstufung in das GenAIOps-Reifegradmodell, die ein allgemeines Verständnis und eine praktische Anwendungsebene für Ihre Organisation liefert. Diese Leitfäden enthalten hilfreiche Links, um Ihre GenAIOps-Wissensdatenbank zu erweitern.
Ebene 1 – initial
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Anfangsphase (0–9).
Beschreibung: Ihre Organisation befindet sich in der initialen grundlegenden Phase des GenAIOps-Reifegrads. Sie untersuchen die Funktionen von LLMs, haben aber noch keine strukturierten Praktiken oder systematischen Ansätze entwickelt.
Machen Sie sich zunächst mit verschiedenen LLM-APIs und ihren Funktionen vertraut. Beginnen Sie als Nächstes mit dem Entwerfen strukturierter Eingabeaufforderungen und dem grundlegenden Prompt Engineering zu experimentieren. Lesen Sie die Microsoft Learning-Artikel als Startpunkt. Mit dem, was Sie gelernt haben, finden Sie heraus, wie Sie grundlegende Metriken für die Auswertung der LLM-Anwendungsleistung einführen.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 1
- Azure KI Studio-Modellkatalog
- Erkunden des Azure KI Studio-Modellkatalogs
- Einführung in das Prompt Engineering
- Prompt Engineering-Techniken
- Systemmeldungs-Framework
- Prompt Flow in Azure KI Studio
- Auswerten von generativen KI-Anwendungen mit Azure KI Studio
- Auswertungs- und Überwachungsmetriken für generative KI mit Azure KI Studio
Um GenAIOps besser zu verstehen, sollten Sie die verfügbaren Microsoft Learning-Kurse und -Workshops in Betracht ziehen.
Ebene 2 – definiert
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Ausreifung (10–14).
Beschreibung: Ihre Organisation hat begonnen, LLM-Vorgänge zu systematisieren, wobei der Fokus auf der strukturierten Entwicklung und Experimentierung liegt. Es gibt jedoch Platz für anspruchsvollere Integration und Optimierung.
Um Ihre Fähigkeiten und Fertigkeiten zu verbessern, erfahren Sie, wie Sie komplexere Eingabeaufforderungen entwickeln und damit beginnen, sie effektiv in Anwendungen zu integrieren. Während dieser Journey möchten Sie einen systematischen Ansatz für die LLM-Anwendungsbereitstellung implementieren und möglicherweise die CI/CD-Integration erkunden. Sobald Sie das Wesentliche verstanden haben, können Sie mit der Verwendung erweiterter Auswertungsmetriken wie Fundiertheit, Relevanz und Ähnlichkeit beginnen. Letztendlich sollten Sie sich auf die Sicherheit von Inhalten und ethische Überlegungen bei der LLM-Nutzung konzentrieren.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 2
- Nehmen Sie an unserem Ausführlichen Workshop teil, um Ihre GenAIOps-Verfahren zu verbessern.
- Prompt Flow in Azure KI Studio
- Erstellen mit Prompt Flow
- Bereitstellen eines Flows als verwalteter Online-Endpunkt für echtzeitbasierte Rückschlüsse
- Integration von Prompt Flow mit GenAIOps
- Auswertung von generativer KI mit Azure KI Studio
- Auswertungs- und Überwachungsmetriken für generative KI
- Azure Content Safety
- Verantwortungsvolle KI-Tools und -Praktiken
Ebene 3 – verwaltet
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Ausreifung (15–19).
Beschreibung: Ihre Organisation verwaltet erweiterte LLM-Workflows mit proaktiven Überwachungs- und strukturierten Bereitstellungsstrategien. Sie sind in der Nähe, operative Exzellenz zu erreichen.
Um Ihr Basiswissen zu erweitern, konzentrieren Sie sich auf die kontinuierliche Verbesserung und Innovation in Ihren LLM-Anwendungen. Während Sie Fortschritte machen, können Sie Ihre Überwachungsstrategien mit Predictive Analytics und umfassenden Sicherheitsmaßnahmen für Inhalte verbessern. Erfahren Sie, wie Sie Ihre LLM-Anwendungen für bestimmte Anforderungen optimieren und feinabstimmen können. Letztendlich möchten Sie Ihre Strategien für die Ressourcenverwaltung durch erweiterte Versionskontroll- und Rollbackfunktionen stärken.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 3
- Optimierung mit Azure Machine Learning
- Anpassen eines Modells mit Feinabstimmung
- Generative KI-Modellüberwachung
- Verbessern von LLM-Apps für die Produktion mit GenAIOps
Ebene 4 – optimiert
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Optimierung (20–28).
Beschreibung: Ihre Organisation demonstriert betriebliche Exzellenz bei GenAIOps. Sie haben einen anspruchsvollen Ansatz für die LLM-Anwendungsentwicklung, -bereitstellung und -überwachung.
Während sich LLMs weiterentwickeln, sollten Sie Ihre Spitzenposition beibehalten, indem Sie mit den neuesten LLM-Fortschritten auf dem neuesten Stand bleiben. Bewerten Sie kontinuierlich die Ausrichtung Ihrer LLM-Strategien mit sich entwickelnden Geschäftszielen. Stellen Sie sicher, dass Sie eine Kultur der Innovation fördern und in Ihrem Team kontinuierlich lernen. Zu guter Letzt teilen Sie Ihr Wissen und Ihre bewährten Methoden mit der breiteren Community, um eine Vordenkerrolle auf dem Gebiet zu etablieren.