Sdílet prostřednictvím

Služba a funkce Azure OpenAI ve službě Azure Government

  • Článek

Tento článek popisuje rozdíly při používání Azure OpenAI ve službě Azure Government v porovnání s nabídkou komerčního cloudu. Další informace o samotné službě Azure OpenAI najdete v dokumentaci ke službě Azure OpenAI.

Modely Azure OpenAI

Přečtěte si další informace o různých možnostech jednotlivých modelů v modelech služby Azure OpenAI. Pro zákazníky s ohledem na provozní kontinuitu a zotavení po havárii (BCDR) si pečlivě poznamenejte typy nasazení, oblasti a dostupnost modelu níže, protože v obou oblastech nejsou k dispozici všechny kombinace modelů a typů.

Následující části ukazují dostupnost modelu podle oblasti a typu nasazení.


Dostupnost modelu nasazení úrovně Standard

Oblast gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106 text-embedding-3-large, 1 text-embedding-ada-002, 2
usgovarizona ✅ ✅ ✅ ✅ - ✅ ✅
usgovvirginia ✅ - ✅ ✅ ✅ - ✅

Pokud chcete požádat o navýšení kvóty pro tyto modely, odešlete žádost na adrese https://aka.ms/AOAIGovQuota. Vezměte prosím na vědomí následující maximální limity kvót, které budou uděleny prostřednictvím tohoto formuláře:

gpt-4o gpt-4o-mini gpt-4 gpt-35-turbo text-embedding-3-large text-embedding-ada-002
300 tisíc 600 tisíc 200 tisíc 500k 700 tisíc 700 tisíc

Dostupnost zřízeného modelu nasazení

Oblast gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106
usgovarizona ✅ - - ✅ -
usgovvirginia ✅ - - ✅ -

[POZNÁMKA]

Zřízené jednotky propustnosti (PTU) se liší od standardní kvóty v Azure OpenAI a ve výchozím nastavení nejsou ve službě Azure Government dostupné. Další informace o této nabídce získáte od týmu účtu Microsoft.


Funkce Azure OpenAI

Při porovnávání Azure OpenAI ve službě Azure Government v komerčním cloudu existují následující rozdíly ve funkcích.

Funkce Popis
Strukturované výstupy Aktuálně se nepodporuje.
Nákupy založené na rezervacích Aktuálně se nepodporuje.
Dávkové nasazení Aktuálně se nepodporuje.
Připojit data Podporují se virtuální sítě a privátní propojení. Nasazení do webové aplikace nebo copilotu v nástroji Copilot Studio se nepodporuje.
Monitorování zneužití Ne všechny funkce monitorování zneužití jsou povolené pro Azure OpenAI ve službě Azure Government. Zodpovídáte za implementaci přiměřených technických a provozních opatření k detekci a zmírnění jakéhokoli použití služby v rozporu s podmínkami produktu. Automatická klasifikace a filtrování obsahu zůstává ve výchozím nastavení pro Azure Government povolená. Pokud jsou požadovány upravené filtry obsahu, použijte na adrese https://aka.ms/AOAIGovModifyContentFilter
Úložiště dat Ve službě Azure Government aktuálně nejsou povolené žádné funkce Azure OpenAI, které ukládají neaktivní uložená data zákazníků. Klíče spravované zákazníkem (CMK) se ale v Azure Government dají povolit, aby podporovaly použití stejných zásad ve službě Azure Government jako ve veřejném cloudu. Upozorňujeme také, že pokud jsou funkce Azure OpenAI, které ukládají zákaznická data, v budoucnu povolené ve službě Azure Government, použijí se na tato data všechna stávající nasazení CMK. Další informace najdete v Azure OpenAI Data Privacy.
Kompatibilita Zobrazení aktuálního stavu dodržování předpisů Azure OpenAI ve službě Azure Government v oboru auditu služeb Azure Government
Koncové body služby openai.azure.us
Klíčové portály
  • Azure OpenAI Studio – aoai.azure.us
  • Azure Portal – portal.azure.us

Zřízená nasazení ve službě Azure Government

Následující průvodce vás provede nastavením zřízeného nasazení s prostředkem služby Azure OpenAI v Azure Government.

Požadavky

  • Předplatné Azure Government
  • Prostředek Azure OpenAI
  • Schválená kvóta pro zřízené nasazení a zakoupení závazku

Správa závazků zřízené propustnosti

Pro Azure OpenAI ve službě Azure Government vyžadují zřízená nasazení propustnosti předem vytvořené a spravované závazky ze zobrazení Spravovat závazky v nástroji Azure OpenAI Studio. Do tohoto zobrazení můžete přejít tak , že v podokně Kvóta vyberete Spravovat závazky .

V zobrazení Spravovat závazky můžete udělat několik věcí:

  • Kupte si nové závazky nebo upravte stávající závazky.
  • Monitorujte všechny závazky ve vašem předplatném.
  • Identifikujte závazky, které by mohly způsobit neočekávanou fakturaci, a proveďte příslušné kroky.
Nastavení Notes
Výběr prostředku Vyberte prostředek, do kterého vytvoříte zřízené nasazení. Po zakoupení závazku nemůžete kvótu použít pro jiný prostředek, dokud nevyprší platnost aktuálního závazku.
Výběr typu závazku Vyberte Zřízeno. (Zřízeno je ekvivalentem zřízeného spravovaného.
Aktuální nepotvrzená zřízená kvóta Počet PTU, které jsou aktuálně k dispozici pro potvrzení k tomuto prostředku.
Částka k potvrzení (PTU) Zvolte počet PTU, ke které se zavazujete. Toto číslo je možné během období závazku zvýšit, ale nedá se snížit. Zadejte hodnoty v přírůstcích po 50 pro typ závazku Zřízené.
Úroveň závazku pro aktuální období Období závazku je nastavené na jeden měsíc.
Nastavení prodlužování platnosti Autorenew ve společnosti current PTUs
Automatické obnovení při nižších PTU
Neaktualizovat automaticky

Důležité

Nový závazek se fakturuje předem za celý termín. Pokud je nastavení pro prodloužení nastavené na automatické prodlužování platnosti, bude se vám znovu účtovat každé datum prodloužení na základě nastavení prodlužování platnosti.

Důležité

Když k závazku přidáte PTU, budou se fakturovat okamžitě na poměrnou částku od aktuálního data do konce stávajícího období závazku. Přidání PTU neobnovuje období závazku.

Změna nastavení prodlužování platnosti

Nastavení prodloužení závazku je možné kdykoli změnit před datem vypršení platnosti závazku.

Důležité

Pokud povolíte vypršení nebo snížení velikosti závazku tak, aby nasazení v rámci prostředku vyžadovala více PTU, než kolik máte v závazku k prostředkům, obdržíte poplatky za nadlimitní využití za všechny nadbytečné jednotky PTU po hodinách. Například prostředek, který má nasazení, které celkem 500 PTU a závazek pro 300 PTU generují poplatky za nadlimitní využití za 200 PTU po hodinách.

Běžné scénáře správy závazků

Ukončení používání zřízené propustnosti

Pokud chcete ukončit využití zřízené propustnosti a zabránit poplatkům za nadlimitní využití po vypršení platnosti závazku po hodinách, je potřeba provést dva kroky:

  1. Nastavte zásadu pro prodloužení všech závazků tak, aby se neaktualizovat automaticky.
  2. Odstraňte zřízená nasazení pomocí kvóty.

Přesun závazku nebo nasazení do nového prostředku ve stejném předplatném nebo oblasti

V Nástroji Azure OpenAI Studio není možné přesunout nasazení ani závazek k novému prostředku přímo. Místo toho je potřeba vytvořit nové nasazení v cílovém prostředku a přesunout do něj provoz. Tento proces vyžaduje nový nákup závazku u nového prostředku. Vzhledem k tomu, že se závazky účtují předem na 30denní období, je nutné tento krok s vypršením platnosti původního závazku minimalizovat překrývání s novým závazkem a "dvojité účtování" během překrývání.

K implementaci tohoto přechodu je možné použít dva přístupy.

Možnost 1: Přepínání bez překrývání

Tato možnost vyžaduje určitý výpadek, ale nevyžaduje žádnou dodatečnou kvótu a nevygeneruje žádné další náklady.

Kroky Notes
Nastavení zásad prodloužení u stávajícího závazku na vypršení platnosti Tato akce brání závazku v prodloužení platnosti a generování dalších poplatků.
Před vypršením platnosti stávajícího závazku odstraňte jeho nasazení. V tomto okamžiku se výpadek spustí a bude trvat až do vytvoření nového nasazení a přesune se provoz. Dobu trvání můžete minimalizovat tak, že se odstranění stane co nejblíže datu a času vypršení platnosti.
Po vypršení platnosti stávajícího závazku vytvořte pro nový prostředek závazek. Minimalizujte výpadky provedením tohoto kroku a dalšího kroku co nejdříve po vypršení platnosti.
Vytvoření nasazení pro nový prostředek a přesun provozu do něj

Možnost 2: Překryvný přepínač

Tato možnost nemá žádný výpadek tím, že stávající i nová nasazení budou aktivní současně. Tato metoda také vyžaduje, aby byla k dispozici kvóta pro vytvoření nového nasazení a vygenerovala další náklady během překrývajících se nasazení.

Kroky Notes
Nastavení zásad prodloužení u stávajícího závazku na vypršení platnosti Tím zabráníte prodloužení závazku a vygenerování dalších poplatků.
Před vypršením platnosti stávajícího závazku:
1. Vytvořte závazek pro nový prostředek.
2. Vytvořte nové nasazení.
3. Přepnutí provozu
4. Odstranění existujícího nasazení		 Ujistěte se, že máte dostatek času na všechny kroky před vypršením platnosti stávajícího závazku, jinak se vygenerují poplatky za nadlimitní využití (viz další část).