Sdílet prostřednictvím

Nasazení modelů Azure OpenAI pomocí Azure AI Foundry

  • Článek

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

V tomto článku se naučíte vytvářet nasazení modelů Azure OpenAI na portálu Azure AI Foundry.

Služba Azure OpenAI nabízí různorodou sadu modelů s různými možnostmi a cenovými body. Když nasadíte modely Azure OpenAI na portálu Azure AI Foundry, můžete nasazení využívat pomocí toku výzvy nebo jiného nástroje. Dostupnost modelů se liší podle oblasti. Další informace o podrobnostech jednotlivých modelů najdete v části Modely služby Azure OpenAI Service.

Pokud chcete upravit model Azure OpenAI v dětském prostředí Azure AI Foundry a pracovat s ním, musíte nejprve do projektu nasadit základní model Azure OpenAI. Jakmile je model nasazený a dostupný ve vašem projektu, můžete využívat jeho koncový bod rozhraní REST API tak, jak je, nebo ho dále přizpůsobit pomocí vlastních dat a dalších komponent (vkládání, indexů a dalších).

Požadavky

  • Předplatné Azure s platným způsobem platby. Bezplatná nebo zkušební předplatná Azure nebudou fungovat. Pokud nemáte předplatné Azure, vytvořte si placený účet Azure, abyste mohli začít.

  • Projekt Azure AI Foundry

Nasazení modelu Azure OpenAI z katalogu modelů

Pomocí následujícího postupu nasaďte model Azure OpenAI, například gpt-4o-mini do koncového bodu v reálném čase z katalogu modelů portálu Azure AI Foundry:

  1. Přihlaste se k Azure AI Foundry.
  2. Pokud ještě nejste v projektu, vyberte ho.
  3. V levém navigačním podokně vyberte Katalog modelů.

  1. Ve filtru Kolekce vyberte Azure OpenAI.

    Snímek obrazovky znázorňující, jak filtrovat podle modelů Azure OpenAI v katalogu

  2. Vyberte model, například gpt-4o-mini z kolekce Azure OpenAI.

  3. Výběrem možnosti Nasadit otevřete okno nasazení.

  4. Vyberte prostředek, do kterého chcete model nasadit. Pokud prostředek nemáte, můžete ho vytvořit.

  5. Zadejte název nasazení a upravte další výchozí nastavení v závislosti na vašich požadavcích.

  6. Vyberte Nasadit.

  7. Dostanete se na stránku s podrobnostmi o nasazení. Vyberte Otevřít v dětském hřišti.

  8. Výběrem možnosti Zobrazit kód získáte ukázky kódu, které můžete použít k využívání nasazeného modelu ve vaší aplikaci.

Nasazení modelu Azure OpenAI z projektu

Případně můžete zahájit nasazení tak, že začnete z projektu na portálu Azure AI Foundry.

  1. Přejděte na svůj projekt na portálu Azure AI Foundry.
  2. Na levém bočním panelu projektu přejděte na Moje assety>Models + koncové body.
  3. Vyberte + Nasadit model>Nasazení základního modelu.
  4. Ve filtru Kolekce vyberte Azure OpenAI.
  5. Vyberte model, například gpt-4o-mini z kolekce Azure OpenAI.
  6. Výběrem možnosti Potvrdit otevřete okno nasazení.
  7. Zadejte název nasazení a upravte další výchozí nastavení v závislosti na vašich požadavcích.
  8. Vyberte Nasadit.
  9. Dostanete se na stránku s podrobnostmi o nasazení. Vyberte Otevřít v dětském hřišti.
  10. Výběrem možnosti Zobrazit kód získáte ukázky kódu, které můžete použít k využívání nasazeného modelu ve vaší aplikaci.

Odvozování modelu Azure OpenAI

K odvozování nasazeného modelu můžete použít dětské hřiště nebo ukázky kódu. Dětské hřiště je webové rozhraní, které umožňuje pracovat s modelem v reálném čase. Pomocí dětského hřiště můžete model otestovat s různými výzvami a zobrazit odpovědi modelu.

Další příklady využití nasazeného modelu ve vaší aplikaci najdete v následujících rychlých startech Azure OpenAI:

Regionální dostupnost a omezení kvót modelu

U modelů Azure OpenAI se výchozí kvóta pro modely liší podle modelu a oblasti. Některé modely mohou být dostupné pouze v některých regionech. Další informace o limitech dostupnosti a kvót najdete v tématu Kvóty a limity služby Azure OpenAI.

Kvóta pro nasazení a odvozování modelu

V případě modelů Azure OpenAI nasazuje a odvozuje kvótu využití, která je přiřazená k vašemu předplatnému v jednotkách tokenů za minutu (TPM). Když si zaregistrujete Azure AI Foundry, obdržíte výchozí kvótu pro většinu dostupných modelů. Potom přiřaďte čip TPM každému nasazení při jeho vytvoření, čímž snížíte dostupnou kvótu pro daný model o přiřazenou částku. Můžete pokračovat v vytváření nasazení a přiřazování čipů TPM, dokud nedosáhnete limitu kvóty.

Jakmile dosáhnete limitu kvóty, jediným způsobem, jak vytvořit nová nasazení tohoto modelu, je:

  • Požádejte o další kvótu odesláním formuláře pro navýšení kvóty.
  • Upravte přidělenou kvótu pro jiná nasazení modelu, aby se uvolnily tokeny pro nová nasazení na portálu Azure OpenAI.

Další informace o kvótách najdete v tématu Kvóta Azure AI Foundry a Správa kvóty služby Azure OpenAI.

Související obsah