Empfehlungen für die Ressourcenauswahl für KI-Workloads in Azure
Dieser Artikel enthält Empfehlungen zur Ressourcenauswahl für Organisationen, die KI-Workloads in Azure ausführen. Im Vordergrund stehen Azure KI-Platform-as-a-Service (PaaS)-Lösungen, einschließlich Azure KI Studio, Azure OpenAI, Azure Machine Learning und Azure KI Services. Behandelt werden sowohl generative als auch nicht generative KI-Workloads.
Durch fundierte Entscheidungen zu KI-Ressourcen können Organisationen bei der Verwaltung von KI-Workloads eine bessere Leistung, Skalierbarkeit und Kosteneffizienz erzielen. Die folgende Tabelle enthält eine Übersicht über die primären Azure KI-PaaS-Lösungen und wichtige Entscheidungskriterien.
| Plattform für künstliche Intelligenz | KI-Typ | Beschreibung | Erforderliche Fähigkeiten |
|---|---|---|---|
| Azure OpenAI | Generative KI | Plattform für den Zugriff auf OpenAI-Modelle | Entwickler- und Data Science-Kenntnisse |
| Azure KI Studio | Generative KI | Plattform für Prompt Engineering und Bereitstellen von Endpunkten für generative KI | Entwickler- und Data Science-Kenntnisse |
| Azure KI Services | Analytische KI | Plattform für die Nutzung vordefinierter Modelle für maschinelles Lernen | Entwicklerkenntnisse |
| Azure Machine Learning | Machine Learning | Plattform zum Trainieren, Bereitstellen und Verwalten von Modellen für maschinelles Lernen | Entwicklerkenntnisse und erweiterte Data Science-Kenntnisse |
Auswählen von Ressourcen für Workloads für generative KI
Generative KI erfordert die Kombination verschiedener Ressourcen zum Verarbeiten und Generieren aussagekräftiger Ausgaben basierend auf Eingabedaten. Durch die richtige Auswahl wird sichergestellt, dass Anwendungen für generative KI, z. B. solche, die Retrieval Augmented Generation (RAG) verwenden, Präzision durch die Etablierung von KI-Modellen erreichen.
In einer typischen RAG-Workload (1) empfängt die Workload die Benutzerabfrage. (2) Ein Orchestrator, z. B. prompt flow, semantischer Kernel oder LangChain, verwaltet den Datenfluss. (3) Ein Such- und Abrufmechanismus findet die geeigneten (4) Grundlagendaten, die an den Endpunkt für generative KI gesendet werden sollen. (5) Ein Endpunkt eines Modells für generative KI generiert eine Antwort basierend auf der Benutzerabfrage und den Grundlagendaten. Verwenden Sie die folgenden Empfehlungen als Framework, um generative RAG-Workloads zu erstellen.
Wählen Sie eine Plattform für generative KI aus. Verwenden Sie Azure OpenAI oder Azure KI Studio, um Modelle für generative KI bereitzustellen und zu verwalten. Azure OpenAI Service bietet Zugriff auf OpenAI-Modelle für private Netzwerke und Inhaltsfilterung. Azure KI Studio bietet eine Code-First-Plattform für die Entwicklung von KI-Workloads. Die Plattform verfügt über integrierte Tools zum Erstellen und Bereitstellen von Anwendungen. Außerdem verfügt sie u. a. über einen großen Modellkatalog, prompt flow, Optimierungen und Inhaltssicherheitsfilter.
Wählen Sie den entsprechenden KI-Computetyp aus. Azure KI Studio erfordert Compute-Instanzen für prompt flow , das Erstellen von Indizes und das Öffnen von Visual Studio Code (Web oder Desktop) in Studio. Wählen Sie einen Computetyp basierend auf Ihren Leistungs- und Budgetanforderungen aus.
Wählen Sie einen Orchestrator aus. Beliebte Orchestratoren für generative KI sind der semantische Kernel, prompt flow und LangChain. Der semantische Kernel ist in Azure-Dienste integriert. LangChain bietet Erweiterbarkeit über das Ökosystem von Microsoft hinaus.
Wählen Sie einen Such- und Wissensabrufmechanismus aus. Zum Etablieren von Modellen für generative KI erstellen Sie eine Index- oder Vektordatenbank für den relevanten Datenabruf. Verwenden Sie Azure KI-Suche, um herkömmliche Indizes und Vektorindizes aus verschiedenen Datenquellen zu generieren, Datenblöcke zu erstellen und mehrere Abfragetypen zu verwenden. Wenn sich Ihre Daten in strukturierten Datenbanken befinden, sollten Sie Azure Cosmos DB, Azure Database for PostgreSQL und Azure Cache for Redis verwenden.
Wählen Sie eine Datenquelle für Grundlagendaten aus. Speichern Sie bei Bildern, Audio- oder Videodaten sowie großen Datasets die Grundlagendaten in Azure Blob Storage. Alternativ können Sie Datenbanken verwenden, die von Azure KI-Suche oder Vektordatenbanken unterstützt werden.
Wählen Sie eine Computeplattform aus. Verwenden Sie die Entscheidungsstruktur für Computeoptionen von Azure, um die passende Plattform für Ihre Workload auszuwählen.
Auswählen von Ressourcen für Workloads für nicht generative KI
Workloads für nicht generative KI basieren auf Plattformen, Computeressourcen, Datenquellen und Datenverarbeitungstools, um Aufgaben für maschinelles Lernen zu unterstützen. Wenn Sie die passenden Ressourcen auswählen, können Sie KI-Workloads sowohl mit vordefinierten als auch mit benutzerdefinierten Lösungen erstellen.
In einer Workload für nicht generative KI (1) erfasst die Workload Daten. (2) Ein optionaler Datenverarbeitungsmechanismus extrahiert oder bearbeitet eingehende Daten. (3) Ein KI-Modellendpunkt analysiert die Daten. (4) Daten unterstützen das Training oder die Optimierung der KI-Modelle. Verwenden Sie die folgenden Empfehlungen als Framework, um Workloads für nicht generative KI zu erstellen.
Wählen Sie eine Plattform für nicht generative KI aus. Azure KI Services bietet vordefinierte KI-Modelle, die keine Data Science-Kenntnisse erfordern. Einen Leitfaden zur Auswahl des richtigen Azure KI-Diensts finden Sie unter Auswählen einer Azure KI Services-Technologie. Azure Machine Learning bietet eine Plattform zum Erstellen von Modellen für maschinelles Lernen mit Ihren eigenen Daten und zum Verwenden dieser Modelle in KI-Workloads.
Wählen Sie die entsprechende KI-Computeressource aus. Für Azure Machine Learning benötigen Sie Computeressourcen, um einen Auftrag auszuführen oder einen Endpunkt zu hosten. Verwenden Sie den Computetyp, der Ihren Leistungs- und Budgetanforderungen entspricht. Azure KI Services erfordert keine Computeressourcen.
Wählen Sie eine Datenquelle aus. Verwenden Sie für Azure Machine Learning eine der unterstützten Datenquellen, um Ihre Trainingsdaten zu hosten. Für Azure KI Services erfordern viele der Dienste keine Optimierungsdaten, und einige Dienste, z. B. Azure KI Custom Vision, bieten eine Möglichkeit, lokale Dateien in eine verwaltete Datenspeicherlösung hochzuladen.
Wählen Sie eine Computeplattform aus. Verwenden Sie die Entscheidungsstruktur für Computeoptionen von Azure, um die passende Workloadplattform auszuwählen.
Wählen Sie einen Datenverarbeitungsdienst aus (optional). Azure Functions ist eine gängige Wahl für die Datenverarbeitung, da der Dienst eine serverlose Option bietet. Azure Event Grid ist ebenfalls ein gängiger Triggermechanismus zum Starten einer Datenverarbeitungspipeline.