Freigeben über

Azure OpenAI Service und Features in Azure Government

  • Artikel

In diesem Artikel werden die Unterschiede bei der Verwendung von Azure OpenAI in Azure Government im Vergleich zum Angebot für die kommerzielle Cloud hervorgehoben. Weitere Informationen zu Azure OpenAI Service selbst finden Sie in der Azure OpenAI Service-Dokumentation.

Azure OpenAI-Modelle

Erfahren Sie zu den verschiedenen Funktionen der einzelnen Modelle finden Sie unter Azure OpenAI Service-Modelle. Für Kunden mit Überlegungen zur Geschäftskontinuität und Notfallwiederherstellung (BCDR) beachten Sie bitte die unten aufgeführten Bereitstellungstypen, Regionen und Modellverfügbarkeit, da nicht alle Modell-/Typkombinationen in beiden Regionen verfügbar sind.

In den folgenden Abschnitten wird die Modellverfügbarkeit nach Region und Bereitstellungstyp veranschaulicht.


Verfügbarkeit des Standardbereitstellungsmodells

Region gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106 text-embedding-3-large, 1 text-embedding-ada-002, 2
usgovarizona ✅ ✅ ✅ ✅ - ✅ ✅
usgovvirginia ✅ - ✅ ✅ ✅ - ✅

Um Kontingenterhöhungen für diese Modelle anzufordern, senden Sie eine Anforderung unter https://aka.ms/AOAIGovQuota. Bitte beachten Sie die folgenden maximalen Kontingentgrenzwerte, die über dieses Formular gewährt werden:

gpt-4o gpt-4o-mini gpt-4 gpt-35-turbo text-embedding-3-large text-embedding-ada-002
300 Tsd. 600 Tsd. 200.000 500.000 700 Tsd. 700 Tsd.

Verfügbarkeit des bereitgestellten Bereitstellungsmodells

Region gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106
usgovarizona ✅ - - ✅ -
usgovvirginia ✅ - - ✅ -

[HINWEIS]

Bereitgestellte Durchsatzeinheiten (Provisioned Throughput Units, PTUs) unterscheiden sich vom Standardkontingent in Azure OpenAI und sind nicht standardmäßig in Azure Government verfügbar. Wenn Sie mehr über dieses Angebot erfahren möchten, wenden Sie sich an Ihr Microsoft-Kontoteam.


Azure OpenAI-Features

Die folgenden Unterschiede bestehen beim Vergleich von Azure OpenAI in Azure Government und kommerzieller Cloud.

Funktion Beschreibung
Strukturierte Ausgaben Wird derzeit nicht unterstützt.
Einkäufe auf Reservierungsbasis Wird derzeit nicht unterstützt.
Batchbereitstellungen Wird derzeit nicht unterstützt.
Ihre Daten verbinden Virtuelle Netzwerke und private Verbindungen werden unterstützt. Die Bereitstellung in einer Web-App oder einem Copilot in Copilot Studio wird nicht unterstützt.
Missbrauchsüberwachung Nicht alle Features der Missbrauchsüberwachung sind für Azure OpenAI in Azure Government aktiviert. Sie sind dafür verantwortlich, angemessene technische und operative Maßnahmen zu implementieren, um jegliche Nutzung des Diensts zu erkennen und zu korrigieren, die gegen die Produktbedingungen verstößt. Automatisierte Inhaltsklassifizierung und -filterung bleiben für Azure Government standardmäßig aktiviert. Wenn geänderte Inhaltsfilter erforderlich sind, beantragen Sie diese unter https://aka.ms/AOAIGovModifyContentFilter
Datenspeicherung In Azure Government sind derzeit keine Azure OpenAI-Features aktiviert, die ruhende Kundendaten speichern. Kundenseitig verwaltete Schlüssel (Customer Managed Keys, CMKs) können jedoch weiterhin in Azure Government aktiviert werden, um die Verwendung derselben Richtlinien in Azure Government wie in der öffentlichen Cloud zu unterstützen. Beachten Sie außerdem Folgendes: Wenn Azure OpenAI-Features, die Kundendaten speichern, in Azure Government in Zukunft aktiviert werden, wird jede vorhandene CMK-Bereitstellungen zu diesem Zeitpunkt auf diese Daten angewendet. Weitere Informationen finden Sie unter Daten, Datenschutz und Sicherheit für Azure OpenAI Service.
Kompatibilität Zeigen Sie den aktuellen Status der Azure OpenAI-Compliance in Azure Government unter Prüfumfang für Azure Government-Dienste an.
Dienstendpunkte openai.azure.us
Wichtige Portale
  • Azure OpenAI Studio: aoai.azure.us
  • Azure-Portal: portal.azure.us

Bereitgestellte Bereitstellungen in Azure Government

Der folgende Leitfaden führt Sie durch das Einrichten einer bereitgestellten Bereitstellung mit Ihrer Azure OpenAI Service-Ressource in Azure Government.

Voraussetzungen

  • Azure Government-Abonnement
  • Eine Azure OpenAI-Ressource
  • Genehmigtes Kontingent für eine bereitgestellte Bereitstellung und erworbene Mindestabnahme

Verwalten der Mindestabnahme für den bereitgestellten Durchsatz

Für Azure OpenAI in Azure Government erfordern bereitgestellte Durchsatzbereitstellungen eine vorab erworbene Mindestabnahme, die über die Ansicht Mindestabnahme verwalten in Azure OpenAI Studio erstellt und verwaltet wird. Sie können zu dieser Ansicht navigieren, indem Sie im Bereich „Kontingent“ die Option Mindestabnahme verwalten auswählen.

In der Ansicht Mindestabnahme verwalten können Sie verschiedene Aktionen ausführen:

  • Erwerben einer neuen Mindestabnahme oder Bearbeiten einer bestehenden Mindestabnahme
  • Überwachen der gesamten Mindestabnahme in Ihrem Abonnement
  • Identifizieren und Ergreifen von Maßnahmen für die Mindestabnahme, die zu einer unerwarteten Abrechnung führen kann
Einstellung Notizen
Ressource auswählen Wählen Sie die Ressource aus, in der Sie die bereitgestellte Bereitstellung erstellen. Nachdem Sie die Mindestabnahme erworben haben, können Sie das Kontingent nicht mehr für eine andere Ressource verwenden, bis die aktuelle Mindestabnahme abläuft.
Typ der Mindestabnahme auswählen Wählen Sie Bereitgestellt aus. („Bereitgestellt“ ist gleichbedeutend mit „Bereitgestellt-Verwaltet“.)
Aktuelles bereitgestelltes Kontingent ohne Commit Die Anzahl der PTUs, die derzeit für Sie zum Committen in dieser Ressource zur Verfügung stehen.
Zu committender Betrag (PTUs) Wählen Sie die Anzahl der PTUs aus, für die Sie sich committen. Diese Anzahl kann während der Laufzeit der Mindestabnahme erhöht, aber nicht verringert werden. Geben Sie Werte in Schritten von 50 für den Mindestabnahmetyp „Bereitgestellt“ ein.
Commitmentstufe für den aktuellen Zeitraum Der Commitmentzeitraum wird auf einen Monat festgelegt.
Verlängerungseinstellungen Automatische Verlängerung mit aktuellen PTUs
Automatische Verlängerung mit weniger PTUs
Keine automatische Verlängerung

Wichtig

Eine neue Mindestabnahme wird im Voraus für die gesamte Laufzeit in Rechnung gestellt. Wenn die Verlängerungseinstellungen auf automatische Verlängerung festgelegt sind, erhalten Sie basierend auf den Verlängerungseinstellungen erneut an jedem Verlängerungsdatum eine Rechnung.

Wichtig

Wenn Sie PTUs zu einer Mindestabnahme hinzufügen, werden diese sofort ab dem aktuellen Datum bis zum Ende der Laufzeit der bestehenden Mindestabnahme zu einem anteiligen Betrag in Rechnung gestellt. Durch das Hinzufügen von PTUs wird die Laufzeit der Mindestabnahme nicht zurückgesetzt.

Änder der Verlängerungseinstellungen

Die Einstellungen für die Verlängerung der Mindestabnahme können jederzeit vor dem Ablaufdatum der Mindestabnahme geändert werden.

Wichtig

Wenn Sie zulassen, dass eine Mindestabnahme abläuft oder ihr Umfang abnimmt, sodass die Bereitstellungen unter der Ressource mehr PTUs erfordern, als in der Mindestabnahme für die Ressource enthalten sind, fallen stündliche Überschreitungsgebühren für alle überschüssigen PTUs an. Eine Ressource mit Bereitstellungen, die insgesamt 500 PTUs umfassen, und einer Mindestabnahme für 300 PTUs generiert stündliche Überschreitungsgebühren für 200 PTUs.

Allgemeine Szenarien für die Verwaltung einer Mindestabnahme

Beenden der Verwendung des bereitgestellten Durchsatzes

Um die Verwendung des bereitgestellten Durchsatzes zu beenden und stündliche Überschreitungsgebühren nach dem Ablauf der Mindestabnahme zu vermeiden, müssen zwei Schritte ausgeführt werden:

  1. Legen Sie die Verlängerungsrichtlinie für alle Commitments auf Keine automatische Verlängerung fest.
  2. Löschen Sie die bereitgestellten Bereitstellungen mithilfe des Kontingents.

Verschieben eines Commitments/einer Bereitstellung in eine neue Ressource in demselben Abonnement/derselben Region

Es ist in Azure OpenAI Studio nicht möglich, eine Bereitstellung oder ein Commitment direkt zu einer neuen Ressource zu verschieben. Stattdessen muss eine neue Bereitstellung für die Zielressource erstellt und der Datenverkehr dorthin umgeleitet werden. Für diesen Vorgang ist ein neuer Mindestabnahmekauf für die neue Ressource erforderlich. Da Commitments für einen Zeitraum von 30 Tagen im Voraus berechnet werden, ist es notwendig, diesen Schritt mit dem Ablauf des ursprünglichen Commitments abzustimmen, um die Überschneidung mit dem neuen Commitments und die „Doppelabrechnung“ während der Überlappung zu minimieren.

Es gibt zwei Ansätze, die zur Umsetzung dieses Übergangs ergriffen werden können.

Option 1: Übergang ohne Überschneidung

Diese Option ist mit einer gewissen Ausfallzeit verbunden, erfordert jedoch kein zusätzliches Kontingent und generiert keine zusätzlichen Kosten.

Schritte Hinweise
Festlegen der Verlängerungsrichtlinie für das ablaufende, bestehende Commitment Dadurch wird verhindert, dass die Mindestabnahme verlängert wird und weitere Gebühren verursacht.
Löschen Sie vor Ablauf des vorhandenen Commitments seine Bereitstellung Die Downtime beginnt zu diesem Zeitpunkt und dauert an, bis die neue Bereitstellung erstellt und Datenverkehr umgeleitet wurde. Sie können die Dauer minimieren, indem Sie den Löschvorgang so nah am Ablaufdatum/an der Ablaufzeit wie möglich festlegen.
Erstellen Sie nach Ablauf des bestehenden Commitments das Commitment für die neue Ressource Minimieren Sie die Downtime, indem Sie diesen und den nächsten Schritt so bald wie möglich nach dem Ablauf ausführen.
Erstellen der Bereitstellung für die neue Ressource und Umleiten des Datenverkehrs dorthin

Option 2: Überlappender Übergang

Diese Option hat keine Ausfallzeit, da sowohl vorhandene als auch neue Bereitstellungen gleichzeitig aktiv sind. Diese Methode erfordert außerdem, dass Kontingent zum Erstellen der neuen Bereitstellung verfügbar ist, und generiert zusätzliche Kosten für die überlappenden Bereitstellungen.

Schritte Hinweise
Festlegen der Verlängerungsrichtlinie für das ablaufende, bestehende Commitment Dadurch wird verhindert, dass das Commitment verlängert wird und weitere Gebühren generiert werden.
Vor Ablauf des vorhandenen Commitments:
1. Erstellen Sie das Commitment für die neue Ressource.
2. Erstellen Sie die neue Bereitstellung.
3. Leiten Sie den Datenverkehr um.
4. Löschen Sie die vorhandene Bereitstellung		 Stellen Sie sicher, dass Sie genügend Zeit für alle Schritte lassen, bevor das bestehende Commitment abläuft, andernfalls werden Überschreitungsgebühren für Optionen generiert (siehe nächster Abschnitt).