Überblick über KI- und LLM-Konfigurationen in Microsoft Cloud for Sovereignty (Vorschauversion)

Wichtig

Dies ist eine Vorschauversion. Diese Informationen beziehen sich auf eine Vorabversionsfunktion, die vor ihrer Veröffentlichung möglicherweise erheblich geändert wird. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.

Organisationen des öffentlichen Sektors können die Vorteile der neuesten KI-Innovationen in der öffentlichen Cloud nutzen und gleichzeitig ihre Daten mithilfe von Microsoft Cloud for Sovereignty gemäß ihren lokalen Richtlinien und gesetzlichen Anforderungen verwalten.

Microsoft Cloud for Sovereignty bietet Agilität und Flexibilität, erweiterte Cybersicherheitsfunktionen und Zugriff auf die neuesten Innovationen wie Azure OpenAI, um die digitale Transformation und die Bereitstellung wichtiger öffentlicher Dienste zu beschleunigen. Es ermöglicht Kunden, Workloads zu entwickeln und digital in die Microsoft-Cloud zu transformieren und gleichzeitig unterstützt es sie bei der Erfüllung ihrer speziellen Compliance-, Sicherheits- und Richtlinienanforderungen.

Azure OpenAI Der Dienst bietet Zugriff auf die leistungsstarken Sprachmodelle von OpenAI, einschließlich der Modellreihen GTP4-o, GPT-4, GPT-3.5-Turbo und Embeddings. Diese grundlegenden Sprachmodelle werden anhand riesiger Datenmengen vortrainiert, um Aufgaben wie Inhaltserstellung, Zusammenfassung, semantische Suche und Übersetzung von natürlicher Sprache in Code auszuführen. Sie können den Azure OpenAI-Dienst verwenden, um auf die vortrainierten Modelle zuzugreifen und so KI-gestützte Anwendungen schneller und mit minimalem Aufwand zu erstellen. Gleichzeitig können sie mit Microsoft Cloud for Sovereignty Compliance-, Sicherheits- und Richtlinienanforderungen mit souveränen Kontrollen und Cloud-Architektur auf Unternehmensebene durchsetzen.

Leistungen

Sie können Azure OpenAI-Dienste verwenden, um Ihre Daten:

• Steigern Sie die Produktivität Ihrer Mitarbeiter, indem Sie den Zeitaufwand zum Auffinden wichtiger Informationen in der kollektiven Wissensdatenbank Ihres Unternehmens verkürzen.

• Steigern Sie die Zufriedenheit Ihrer Zugehörigen, indem Sie komplexe Vorschriften oder Programmvoraussetzungen vereinfachen.

Beispielhafter Anwendungsfall

Souveräne Anwendungsfälle werden am besten auf Grundlage der Souveränen Zielzone (SLZ) implementiert. Die SLZ besteht aus einer Verwaltungsgruppenhierarchie und gemeinsamen Plattformressourcen, um die Identitäten aus den Bereichen Vernetzung, Protokollierung und verwaltetem Dienst wie gezeigt zu erleichtern: Das folgende Diagramm zeigt die Architektur der Erstbereitstellung der Sovereign Landing Zone.

Die Stammverwaltungsgruppe einer SLZ wird häufig als „Zielzone“ oder „Zielzone im Unternehmensmaßstab“ bezeichnet. Einzelne Abonnements, die sich in einer der untergeordneten Verwaltungsgruppen unterhalb der übergeordneten Gruppe befinden, werden allgemein als Anwendungszielzonen oder Workload-Zielzonen bezeichnet. Anwendungs-Workloads können in einer SLZ-Umgebung in einer der vier Standard-Zielzonen bereitgestellt werden:

• Corp (Unternehmen) – Nicht mit dem Internet verbundene, nicht vertrauliche Workloads

• Online - Internetbasierte, nicht vertrauliche Workloads

• Vertrauliche Unternehmen – vertrauliche Workloads ohne Internetzugang (erlaubt nur die Verwendung vertraulicher Computerressourcen)

• Vertraulich online – vertrauliche Workloads mit Internetzugang (erlaubt nur die Nutzung vertraulicher Computerressourcen)

Der Hauptunterschied zwischen den Verwaltungsgruppen Corp und Online besteht in der Art und Weise, wie sie mit öffentlichen Endpunkten umgehen. Die Onlineumgebung erlaubt die Verwendung öffentlicher Endpunkte, die Corp-Umgebung hingegen nicht. Erfahren Sie mehr über die Architektur der SLZ.

In einer SLZ Umgebung sollten Sie KI-basierte Lösungen als dedizierte Workloads in ihren eigenen Abonnements innerhalb der Corp - oder Online -Verwaltungsgruppenhierarchie bereitstellen.

Wir empfehlen die Verwendung von Corp Umgebung als sicheres Standardmuster für die Implementierung von Large Sprachmodell (LLM) durch Retrieval Augmented Generation (RAG) -basierten Anwendungen wie Agenten für die interne Verwendung in der Organisation. Sie benötigen ExpressRoute- oder VPN-basierte Verbindungen sind für den Zugriff auf die Front-End-APIs oder Benutzeroberflächen, die eine Verbindung mit Azure AI-Diensten herstellen und den Endbenutzern oder Verbrauchern LLM-Funktionen bereitstellen.

Um LLM- oder RAG-basierte Anwendungen der Öffentlichkeit anzubieten, verwenden Sie Workload-Zielzonen in der Verwaltungsgruppenhierarchie Online. Allerdings müssen Sie auf alle für die Implementierung erforderlichen Dienste über private Endpunkte sicher im virtuellen Netzwerk zugreifen. Stellen Sie die API oder Front-End-Webanwendung den Endbenutzern oder Verbrauchern nur über ein öffentliches Endpunkt zur Verfügung.

In diesem Fall sollten Sie die öffentlichen Endpunkt mit einer Web Application Firewall schützen. Sie sollten auch entsprechende DDoS- und andere Sicherheitsdienste anwenden und konfigurieren. Diese Konfiguration kann je nach Ihren Präferenzen zentral im virtuellen Hub-Netzwerk oder dezentral im virtuellen Netzwerk der Workload erfolgen.

Wenn Sie Daten aus vertraulichen Landezonen in KI-Workloads integrieren müssen, müssen Sie die Transformationsprozesse, die die Daten verarbeiten und speichern, in Diensten wie Azure KI-Diensten, etwa Azure AI Search oder Azure OpenAI, innerhalb einer vertraulichen Landezone ausführen. Darüber hinaus sollten diese Prozesse Daten aktiv filtern und verwalten, um das Senden vertraulicher Daten, die bei der Verwendung an nicht vertrauliche Dienste und Workloads verschlüsselt werden müssen, zu verhindern. Sie müssen diese Filterung von Fall zu Fall in eine benutzerdefinierte Geschäftslogik implementieren.

Wenn Sie Daten durch KI-Workloads aufnehmen, transformieren und nutzen müssen, empfehlen wir Ihnen, eine Datenlandezone bereitzustellen, die an den Datendomänen ausgerichtet ist. Eine Datenzielzone verfügt über mehrere Ebenen, die Agilität für die darin enthaltenen Dienstdatenintegrationen und Datenprodukte ermöglichen.

Eine Datenlandezone ist Teil des Cloud Adoption Framework – Cloud-Scale-Analytics-Szenario , einem umfassenden, fundierten Ansatz, der die Bereitstellung von erweiterten Analytics-Lösungen in der Cloud beschleunigen und rationalisieren soll. Es bietet eine strukturierte Methodik, die bewährte Methoden und standardisierte Dienste umfasst, um die Aufnahme, Transformation und Nutzung von Daten in verschiedenen Domänen zu erleichtern. Durch die Nutzung dieses Szenarios können Unternehmen eine höhere Agilität und Skalierbarkeit bei ihren Datenoperationen erreichen und so eine sichere gemeinsame Nutzung und Verwaltung von Daten gewährleisten. Dieses Framework optimiert nicht nur die Leistung von Analyse-Workloads, sondern verbessert auch die nahtlose Integration und Verwaltung von Datenprodukten und ermöglicht so letztendlich aufschlussreichere und fundiertere Entscheidungsprozesse.

Sie können eine neue Datenzielzone bereitstellen mit einem Standardsatz an Diensten, die es der Datenzielzone ermöglichen, mit der Erfassung und Analyse von Daten zu beginnen. Sie können die Datenzielzone kann mit der LLM-Datenzielzone und allen anderen Datenzielzonen über virtuelles Netzwerk-Peering verbinden. Dieser Mechanismus ermöglicht die sichere gemeinsame Nutzung von Daten über das interne Azure-Netzwerk bei gleichzeitig geringerer Latenz und höherem Durchsatz im Vergleich zur Übertragung über den Hub.

Einige Implementierungen erfordern möglicherweise die Verwendung sensibler oder vertraulicher Daten, die einer Verschlüsselung bedürfen, die mit vertraulichem Computing möglich ist. Für dieses Szenario ist es möglich, auf virtuellen Computer basierende Datenlösungen in Zielzonen unter der vertraulichen Verwaltungsgruppe auszuführen. Einige PaaS-Datendienste können möglicherweise nicht in vertraulichen virtuellen Computern ausgeführt werden.

Nächste Schritte,

• Erfahren Sie, wie Sie LLMs und Azure OpenAI im Retrieval Augmented Generation (RAG)-Muster (Vorschau) verwenden können.