Freigeben über

AI-Workloads in Azure

  • Artikel

In diesem Artikel werden architektonische Herausforderungen beim Entwerfen von KI-Workloads behandelt. Sie konzentriert sich auf nicht deterministische Funktionen, Daten- und Anwendungsdesign und -vorgänge. Die Empfehlungen basieren auf Azure Well-Architected Framework-Prinzipien und enthalten Einblicke aus erfolgreichen Azure-Implementierungen.

Diese Artikel sind für Workloadbesitzer und technische Projektbeteiligte wie Architekten, Entwicklungsleiter und IT-Führungskräfte gedacht. Spezielle KI- und Datenrollen, z. B. Datenwissenschaftler, sollten sich dieser Anleitung bewusst sein, da die Zusammenarbeit in verschiedenen Rollen und Teams ein wichtiger Aspekt ist.

Hinweis

Azure bietet verschiedene KI-Dienste, die Sie in Ihre Workload integrieren oder um sie herum erstellen können. Je nach Ihren geschäftlichen Anforderungen können Sie zwischen vollständig verwalteten Software as a Service (SaaS)-Lösungen, Plattform as a Service (PaaS)-Lösungen oder Ihrer eigenen KI-Lösung wählen. Bestimmte Azure-Dienste und ihre Funktionen werden hier nicht behandelt. Wir empfehlen, dass Sie sich auf die entsprechende Produktdokumentation für diese Informationen beziehen.

Außerdem sind bestimmte KI-Workloads nicht im Umfang enthalten, z. B.:

  • Workloads, die durch low-code und no-code Angebote, wie z. B. Copilot Studio, realisiert werden.
  • Workloads, die Hochleistungsrechnen erfordern.
  • Workloads, die keine generativen oder diskriminativen KI-Anwendungsfälle implementieren.

Was ist eine KI-Workload?

Im Kontext des Well-Architected Framework erfüllt ein KI-Workload die Anforderungen von Vorhersage-, Unterscheidungs- oder generativen Aufgaben. Sie konzentriert sich auf ethische Funktionen, anpassungsfähig an schnell entwickelnde KI-Technologien und bleibt relevant und erklärend. Wenden Sie die Well-Architected Rahmenpfeiler an jedem Entscheidungspunkt an, um sicherzustellen, dass das System zuverlässig, sicher, effizient und kostengünstig ist.

KI-Arbeitslasten unterscheiden sich von herkömmlichen, da sie in Teilen der Arbeitslast deterministische Funktionen durch nicht deterministisches Verhalten ersetzen, um Situationen zu lösen, in denen feste Ergebnisse unpraktisch sind. Stattdessen kombinieren sie Code und Daten in einer Entität oder einem Modell, um einzigartige Erfahrungen zu ermöglichen, die herkömmliche Systeme nicht bereitstellen können.

Bevor Sie mit ihren Designstrategien beginnen, sollten Sie diese wichtigsten Punkte zuerst berücksichtigen.

Machen Sie sich mit den breiten Kategorien von Modellen vertraut

  • Generative AI: Verwendet maschinelles Lernen, um selbstständig neue Inhalte zu erstellen. Sie enthält Sprachmodelle, die mit Benutzerdaten angepasst oder als Dienste wie Azure OpenAI Service verwendet werden können. Beispielsweise ist GPT, eine Art von Sprachmodell, spezialisiert auf das Imitieren der menschlichen Unterhaltungssprache und eignet sich ideal für Chat- und natürliche Spracherfahrungen.

    Anwendungsfälle: Generative KI kann Artikel, Geschichten und Kunst produzieren. Es kann auch synthetische Daten generieren, um Datasets zu ausgleichen und Chatbots menschlicher zu gestalten.

  • Diskriminative KI-: Verwendet explizite Programmierung, um bestimmte Aufgaben basierend auf Regeln und Algorithmen auszuführen. Sie ist unterteilt in:

    • Modellbasiert: Prädiktive Systeme finden auf der Grundlage von Training aus früheren Beobachtungen Muster, um Vorhersagen zu treffen, können aber keine neuen Inhalte erstellen oder sich selbständig anpassen.
    • Nicht Modellbasierte: Autonome Agenten folgen vordefinierten Regeln für die Interaktion mit Systemen, ähnlich wie Videospielfiguren.

    Anwendungsfall: Diskriminative KI wird für Predictive Analytics, Empfehlungssysteme und Betrugserkennung verwendet.

Diese Artikelreihe befasst sich mit verschiedenen KI-Workloads und konzentriert sich bei Bedarf auf bestimmte Typen wie Sprachmodelle.

Wichtig

Wenn Sie zwischen generativen und diskriminativen Modellen wählen, überlegen Sie sich die Aufgabe, die Sie erledigen müssen. Generative Modelle erstellen neue Daten. Diskriminative Modelle klassifizieren vorhandene Daten basierend auf Features. Wählen Sie für Klassifizierungs- oder Regressionsaufgaben Modelle aus, die dem Auftrag entsprechen. Beispielsweise kann ein Sprachmodell, das klassifizieren kann, vielseitiger sein als ein Modell, das nur klassifiziert wird.

Bewerten Des Builds im Vergleich zu Kaufoptionen

Wenn generische Antworten akzeptabel sind, sollte ein vordefiniertes Modell oder eine KI-dienstbasierte Lösung, die undurchsichtige Verarbeitung verwendet, für Ihre Workload ausreichen. Wenn Sie jedoch Daten benötigen, die für Ihr Unternehmen spezifisch sind oder Complianceanforderungen erfüllen, erstellen Sie ein benutzerdefiniertes Modell.

Wenn Sie zwischen einem benutzerdefinierten Modell, einem vordefinierten Modell oder einem Dienst wählen, sollten Sie die folgenden Faktoren berücksichtigen:

  • Datenkontrolle: Benutzerdefinierte Modelle bieten Ihnen mehr Kontrolle über vertrauliche Daten. Vorgefertigte Modelle sind für allgemeine Aufgaben einfacher.
  • Anpassung: Angepasste Modelle sind besser für einzigartige Anforderungen geeignet. Vorkonfigurierte Modelle sind möglicherweise nicht flexibel.
  • Kosten und Wartung: Benutzerdefinierte Modelle benötigen fortlaufende Wartung und Ressourcen. Vorkonfigurierte Modelle haben in der Regel niedrigere Anfangskosten und weniger Infrastrukturlast.
  • Performance: Vorgefertigte Dienste bieten optimierte Infrastruktur und Skalierbarkeit. Sie eignen sich ideal für Anforderungen mit geringer Latenz oder hoher Skalierbarkeit.
  • Fachwissen: Angepasste Modelle erfordern ein erfahrenes Team. Vorgefertigte Modelle sind häufig schneller bereitzustellen und einfacher zu verwenden, wenn die Expertise begrenzt ist.

Wichtig

Das Erstellen und Verwalten Ihres eigenen Modells erfordert viele Ressourcen, Zeit und Know-how. Es ist wichtig, gründlich zu recherchieren, bevor Sie sich entscheiden. In der Regel ist die Auswahl eines vordefinierten Modells oder eines verwalteten Diensts eine bessere Option.

Was sind die gemeinsamen Herausforderungen?

  • Berechnungskosten: KI-Funktionen können aufgrund hoher Rechenanforderungen teuer sein, und die Rechenanforderungen können je nach Workloaddesign variieren. Verstehen Sie Ihre Anforderungen, und wählen Sie den richtigen Dienst zum Verwalten von Kosten aus.
  • Sicherheits- und Complianceanforderungen: Off-the-Shelf-Lösungen erfüllen möglicherweise ihre Sicherheits- und Complianceanforderungen nicht. Forschungsoptionen, um unnötige Belastungen zu vermeiden.
  • Datenvolumen: Die Verarbeitung großer Datenmengen in verschiedenen Formaten bietet Herausforderungen beim Schutz vertraulicher Informationen und der effizienten Verarbeitung. Die Optimierung von Speicher-, Verarbeitungs- und Übertragungskosten sollte eine laufende Aktivität sein.
  • Modellzerfall: Modelle können sich im Laufe der Zeit verschlechtern, was zu ungenauen Ergebnissen führt. Das Testen von KI-Systemen ist aufgrund ihrer Zufälligkeit eine Herausforderung.
  • Herausforderungen der Qualifikation: Neue KI-Workloads benötigen möglicherweise spezielle Rollen und neue Vorgänge, die umfangreiche Schulungen erfordern.
  • Tempo der KI-Innovation: Die Einführung der neuesten Technologien kann verlockend sein, um auf dem neuesten Stand zu bleiben. Bewerten Sie neue Technologien sorgfältig, um sicherzustellen, dass sie die Benutzererfahrung verbessern und nicht nur Komplexität hinzufügen, um auf dem neuesten Stand zu sein.
  • ethische Anforderungen: Legen Sie klar fest, ob Ihr Anwendungsfall ein ethisches Ziel für KI ist. Die Aufrechterhaltung ethischer Standards ist in allen Planungs- und Implementierungsphasen erforderlich, um sicherzustellen, dass Sie ein verantwortungsvolles System erstellen.

So verwenden Sie diese Anleitung

✔ Beginnen Sie mit der Design-Methodik, die das Grundprinzip und die wiederkehrenden Themen in den technischen und operativen Bereichen umreißt. Dieser systematische Ansatz hilft dabei, Anforderungen und Designstrategien zu definieren. Überdenken Sie diese Methodik, wenn Sie vor unsicheren Entscheidungen stehen, um mit den generellen Zielen der Arbeitsbelastung in Einklang zu bleiben. Darüber hinaus bietet sie einen Rahmen für die Zusammenarbeit mit den Beteiligten, um technische Entscheidungen zu rechtfertigen und Kundenfeedback zur kontinuierlichen Verbesserung zu integrieren.

✔ Fahren Sie mit Gestaltungsprinzipien fort, um zu sehen, wie die Design-Methodik mit den Kernelementen des Well-Architected Framework übereinstimmt. Betrachten Sie die Wachstumsentwicklung. Bewerten Sie die zugrunde liegenden Prinzipien für alle Säulen zusammen, einschließlich der Tradeoffs.

✔ Konzentrieren Sie sich auf die Entwurfsbereiche , die die größte Auswirkung auf Ihre Lösung haben. Jeder Bereich enthält Überlegungen und Empfehlungen, die Sie durch die Designentscheidungen führen.

✔ Verwenden Sie das Assessment Review Tool, um die Readiness Ihres optimierten KI-Workloads in der Produktion zu bewerten.

Typische Architekturmuster und Entwurfsbereiche

Das folgende Diagramm veranschaulicht, wie Daten vom System von der anfänglichen Sammlung zur endgültigen Benutzerinteraktion fließen.

Diagramm, das das typische Architekturmuster einer KI-Workload zeigt.

Die Architektur hebt die Integration verschiedener Komponenten hervor, um eine effiziente Datenverarbeitung, Modelloptimierung und Echtzeitanwendungsbereitstellung in KI-gesteuerten Lösungen zu ermöglichen. Sie enthält Module wie Datenquellen, Datenverarbeitung, Modellschulung, Modellbereitstellung und Benutzeroberflächen.

In der folgenden Tabelle werden einige wichtige Entwurfsbereiche im Zusammenhang mit diesem Muster beschrieben.

Entwurfsbereiche
Anwendungsentwurf: Erfahren Sie mehr über Aspekte, die KI-Workloads einzigartig machen und erhebliche Auswirkungen auf Ihre bestehenden Anwendungsentwurfsstandards haben könnten.
Anwendungsplattform: Bestimmen Sie die besten Plattformen für die Unterstützung von KI-Workload-Funktionen wie Modell-Hosting, Modell-Training und Inferencing.
Training des Datendesigns: Entwerfen Sie Strategien für die Datenerfassung, Vorverarbeitung, Aufbewahrung und Governance, um Ihre Daten für das Training zu verwalten.
Grundlegender Datenentwurf: Entwerfen Sie Strategien zur Optimierung der Durchsuchbarkeit und des Abrufs und erfüllen Sie gleichzeitig die Sicherheits- und Compliance-Anforderungen für Ihre Grundlagendaten.
Datenplattform: Ermitteln Sie die beste Hostingplattform, um die großen Mengen und potenziell viele Datenformate zu verarbeiten, die Ihre Workload verwendet.
Maschinelle Lernvorgänge und generative KI-Vorgänge: Richten Sie moderne DevOps-Praktiken ein, um Ihr maschinelles Lernen oder generative KI-Funktionen und -Systeme zu unterstützen.
Workload-Vorgänge: Modernisieren Sie Ihre Arbeitsabläufe mit neuen Ansätzen und fügen Sie spezielle Rollen und Trainings hinzu.
Tests und Auswertungen: Entwickeln Sie Test- und Auswertungsstrategien, um Merkmale wie Genauigkeit, Präzision, Sensitivität und Spezifität durch Metriken zu messen, die für KI-Workloads bestimmt sind.
Workload-Personas: Verstehen Sie, wie Personas in den gesamten Lebenszyklus Ihres KI-Workloads involviert sind, um sicherzustellen, dass Ihr Team vollständig in der Lage ist, den Workload zu erstellen und zu unterstützen.
Verantwortungsvolle KI-: Achten Sie besonders auf die Benutzererfahrung und ethische Auswirkungen der Veröffentlichung Ihrer KI-Lösung für die Öffentlichkeit. KI bringt unglaubliche Chancen für neue Produkte und Dienstleistungen, aber sie birgt auch ein erhebliches Risiko.

Tipp

Jede Architekturentscheidung umfasst eine Reihe von Überlegungen und eine Reihe anerkannter Kompromisse, die verschiedene Aspekte des Rahmens ausgleichen. Diese Kompromisse werden durch dieses Symbol gekennzeichnet.

Nächster Schritt

Designmethodik