Přístup ke službě Azure OpenAI

  • 2 min

Prvním krokem při vytváření řešení generující umělé inteligence pomocí Azure OpenAI je zřízení prostředku Azure OpenAI ve vašem předplatném Azure. Můžete začít vytvořením prostředku na webu Azure Portal nebo pomocí rozhraní příkazového řádku Azure (CLI).

Vytvoření prostředku služby Azure OpenAI na webu Azure Portal

Při vytváření prostředku služby Azure OpenAI musíte zadat název předplatného, název skupiny prostředků, oblast, jedinečný název instance a vybrat cenovou úroveň.

Snímek obrazovky se stránkou webu Azure Portal pro vytvoření prostředku služby Azure OpenAI

Vytvoření prostředku služby Azure OpenAI v Azure CLI

Pokud chcete vytvořit prostředek služby Azure OpenAI z rozhraní příkazového řádku, projděte si tento příklad a nahraďte následující proměnné vlastními proměnnými:

  • MyOpenAIResource: Nahraďte jedinečným názvem vašeho prostředku.
  • OAIResourceGroup: Nahraďte názvem vaší skupiny prostředků.
  • eastus: nahraďte oblastí pro nasazení prostředku.
  • subscriptionID: replace with your subscription ID
az cognitiveservices account create \
-n MyOpenAIResource \
-g OAIResourceGroup \
-l eastus \
--kind OpenAI \
--sku s0 \
--subscription subscriptionID

Poznámka:

Oblasti dostupné pro službu najdete pomocí příkazu az account list-locationsrozhraní příkazového řádku . Pokud se chcete podívat, jak se přihlásit k Azure a vytvořit skupinu Azure prostřednictvím rozhraní příkazového řádku, můžete se podívat na dokumentaci. Služba Azure OpenAI poskytuje přístup k mnoha typům modelů. Některé modely jsou dostupné jenom ve vybraných oblastech. Informace o dostupnosti v oblastech najdete v průvodci dostupností modelu Azure OpenAI. Pro každou oblast můžete vytvořit dva prostředky Azure OpenAI.

Použití Azure OpenAI Foundry

Azure AI Foundry poskytuje přístup ke správě modelů, nasazení, experimentování, přizpůsobení a výukovým prostředkům.

K Azure AI Foundry se dostanete prostřednictvím webu Azure Portal po vytvoření prostředku nebo https://ai.azure.com/ přihlášením ke svému účtu Azure. Během přihlašovacího pracovního postupu vyberte příslušný adresář, předplatné Azure a prostředek Azure OpenAI.

Když poprvé otevřete Azure AI Foundry, budete chtít přejít na stránku Azure OpenAI (kde se zaměříte jenom na modely Služby Azure OpenAI), vybrat prostředek, pokud jste to ještě neudělali, a nasadit první model. Uděláte to tak, že vyberete stránku Nasazení , ze které můžete nasadit základní model a začít s ním experimentovat.

Poznámka:

Pokud nejste vlastníkem prostředku, budete potřebovat následující řízení přístupu na základě role: 1. Uživatel OpenAI služeb Cognitive Services: Tato role umožňuje prohlížet prostředky a používat chatovací hřiště. 2. Přispěvatel OpenAI služeb Cognitive Services: Tato role uživateli umožňuje vytvářet nová nasazení.

Snímek obrazovky s nabídkou portálu Azure AI Foundry na stránkách

Typy modelů OpenAI

Pokud chcete začít sestavovat pomocí Azure OpenAI, musíte zvolit základní model a nasadit ho. Microsoft poskytuje základní modely a možnost vytvářet přizpůsobené základní modely. Tato lekce se zabývá aktuálně dostupnými základními modely.

Azure OpenAI zahrnuje několik typů modelu:

  • Modely GPT-4 jsou nejnovější generace generovaných předtrénovaných modelů (GPT), které můžou generovat přirozené jazyky a dokončování kódu na základě výzev přirozeného jazyka.
  • Modely GPT 3.5 můžou generovat přirozené jazyky a dokončování kódu na základě výzev přirozeného jazyka. Konkrétně jsou modely GPT-35-turbo optimalizované pro interakce založené na chatu a dobře fungují ve většině scénářů generivní umělé inteligence.
  • Vložené modely převádějí text na číselné vektory a jsou užitečné ve scénářích analýzy jazyka, jako je porovnání zdrojů textu pro podobnosti.
  • Modely DALL-E se používají ke generování obrázků na základě výzev v přirozeném jazyce. Modely DALL-E jsou v současné době ve verzi Preview.
  • Šeptající modely se používají k převodu řeči na text.
  • Převod textu na řeč se používá k převodu textu na řeč.

Poznámka:

Ceny se určují podle tokenů a podle typu modelu. Další informace o nejnovějších cenách najdete tady.

Na portálu Azure AI Foundry se na stránce Katalog modelů zobrazí seznam dostupných základních modelů a poskytuje možnost vytvořit další přizpůsobené modely tím, že základní modely doladíte. Modely, které mají stav Úspěch , znamenají, že jsou úspěšně natrénované a dají se vybrat pro nasazení.

Všimněte si, že v katalogu modelů jsou k dispozici různé modely kromě OpenAI, včetně modelů od Microsoftu, Meta, Mistral a dalších. Azure AI Foundry umožňuje nasadit libovolný z těchto modelů pro váš případ použití. Tento modul se zaměří na modely Azure OpenAI.

Snímek obrazovky s předefinovaných modelů umělé inteligence (AI) na portálu Azure AI Foundry

Nasazení modelů OpenAI

Nejprve je potřeba nasadit model pro chatování s rozhraním API nebo volat, aby přijímal odpovědi na výzvy. Při vytváření nového nasazení je potřeba určit, který základní model se má nasadit. Pokud jejich tokeny za minutu (TPM) zůstanou v rámci kvóty nasazení, můžete nasadit libovolný počet nasazení.

Nasazení pomocí Azure AI Foundry

Na stránce katalogu modelů portálu Azure AI Foundry můžete vytvořit nové nasazení výběrem názvu modelu ze seznamu.

Nasazení s využitím rozhraní příkazového řádku Azure

Model můžete také nasadit pomocí konzoly. V tomto příkladu nahraďte následující proměnné vlastními hodnotami prostředků:

  • OAIResourceGroup: Nahraďte názvem vaší skupiny prostředků.
  • MyOpenAIResource: nahraďte názvem vašeho prostředku.
  • MyModel: Nahraďte jedinečným názvem modelu.
  • gpt-35-turbo: nahraďte základním modelem, který chcete nasadit.
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0125"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

Nasazení pomocí rozhraní REST API

Model můžete nasadit pomocí rozhraní REST API. V textu požadavku zadáte základní model, který chcete nasadit. Příklad najdete v dokumentaci k Azure OpenAI.

Prozkoumání výzev OpenAI

Po nasazení modelu můžete otestovat, jak dokončí výzvy. Výzva je textová část požadavku, která se odešle do koncového bodu dokončení nasazeného modelu. Odpovědi se označují jako dokončování, které můžou mít formu textu, kódu nebo jiných formátů.

Typy výzev

Výzvy je možné seskupit do typů požadavků na základě úkolu.

Typ úkolu Příklad výzvy Příklad dokončení
Klasifikace obsahu Tweet: Líbil se mi výlet.
Postoj:		 Kladný
Generování nového obsahu Seznam způsobů cestování 1. Kolo
2. Auto ...
Držení konverzace Přátelský asistent umělé inteligence Podívejte se na příklady
Transformace (převod překladu a symbolů) Angličtina: Dobrý den
Francouzština:		 Bonjour
Shrnutí obsahu Zadejte souhrn obsahu.
{text}		 Obsah sdílí metody strojového učení.
Vyzvednutí tam, kde jste skončili Jeden způsob, jak růst rajčat je rostlina semena.
Poskytnutí faktických odpovědí Kolik měsíců země má? Jeden

Kvalita dokončení

Kvalita dokončení, které získáte z řešení generující umělé inteligence, ovlivňuje několik faktorů.

  • Způsob, jakým je výzva navržena. Přečtěte si další informace o technikách výzvy v lekci Prompt Engineering (Výzvy) dále v tomto modulu.
  • Parametry modelu (probírané níže)
  • Data, na která se model trénuje, se dají přizpůsobit prostřednictvím vyladění modelu s přizpůsobením.

Máte větší kontrolu nad dokončeními vrácenými trénováním vlastního modelu než úpravou výzev a parametrů.

Volání rozhraní API

Volání nasazeného modelu můžete začít provádět prostřednictvím rozhraní REST API, Pythonu nebo jazyka C#. Pokud má nasazený model základ modelu GPT-3.5 nebo GPT-4, použijte dokumentaci k dokončování chatu, která obsahuje koncové body a proměnné vyžadované pro tyto základní modely.

Použití dětského hřiště Azure Studio

Dětské hřiště jsou užitečná rozhraní v Azure AI Foundry, pomocí kterého můžete experimentovat s nasazenými modely, aniž byste museli vyvíjet vlastní klientskou aplikaci. Portál Azure AI Foundry nabízí několik hřiště s různými možnostmi ladění parametrů.

Chatovací hřiště

Chatové hřiště je založené na rozhraní pro konverzaci a zasílání zpráv. Relaci můžete inicializovat systémovou zprávou a nastavit tak kontext chatu.

V chatovacím hřišti můžete použít ukázky výzvy, upravit parametry a přidat několik snímků příkladů. Termín několika snímků odkazuje na několik příkladů, které modelu pomůžou zjistit, co je potřeba udělat. Můžete si to představit na rozdíl od nulového snímku, který odkazuje na poskytnutí žádných příkladů.

Snímek obrazovky s chatovacím hřištěm na portálu Azure AI Foundry