Nasazení modelu a klasifikace textu pomocí rozhraní API modulu runtime
Článek
Jakmile budete spokojeni s tím, jak model funguje, je připravený k nasazení; a použijte ho ke klasifikaci textu. Nasazení modelu zpřístupňuje použití prostřednictvím rozhraní API pro predikce.
Požadavky
Projekt vlastní klasifikace textu s nakonfigurovaným účtem úložiště Azure
Textová data, která se nahrála do vašeho účtu úložiště
Projděte si podrobnosti o vyhodnocení modelu a zjistěte, jak model funguje.
Další informace najdete v životním cyklu vývoje projektu.
Nasazení modelu
Jakmile zkontrolujete výkon modelu a rozhodnete se, že se dá použít ve vašem prostředí, musíte ho přiřadit k nasazení, abyste ho mohli dotazovat. Přiřazení modelu k nasazení ho zpřístupní pro použití prostřednictvím rozhraní API pro predikce. Doporučuje se vytvořit nasazení s názvem production , kterému přiřadíte nejlepší model, který jste zatím vytvořili, a použít ho ve svém systému. Můžete vytvořit další volaná staging nasazení, ke kterému můžete přiřadit model, na kterém právě pracujete, abyste ho mohli otestovat. V projektu můžete mít maximálně 10 nasazení.
V nabídce na levé straně vyberte Nasazení modelu .
Vyberte Přidat nasazení a spusťte novou úlohu nasazení.
Výběrem možnosti Vytvořit nové nasazení vytvořte nové nasazení a v rozevíracím seznamu níže přiřaďte natrénovaný model. Existující nasazení můžete také přepsat tak, že vyberete tuto možnost a v rozevíracím seznamu níže vyberete natrénovaný model, který k němu chcete přiřadit.
Poznámka:
Přepsání existujícího nasazení nevyžaduje změny volání rozhraní API pro predikce, ale výsledky, které získáte, budou založené na nově přiřazeného modelu.
Výběrem možnosti Nasadit spustíte úlohu nasazení.
Po úspěšném nasazení se vedle něj zobrazí datum vypršení platnosti. Vypršení platnosti nasazení je v případě, že nasazený model nebude dostupný pro predikci, což obvykle nastane dvanáct měsíců po vypršení platnosti konfigurace trénování.
Odeslání úlohy nasazení
Odešlete požadavek PUT pomocí následující adresy URL, hlaviček a textu JSON a odešlete úlohu nasazení. Nahraďte níže uvedené zástupné hodnoty vlastními hodnotami.
Název projektu. U této hodnoty se rozlišují malá a velká písmena.
myProject
{DEPLOYMENT-NAME}
Název nasazení. U této hodnoty se rozlišují malá a velká písmena.
staging
{API-VERSION}
Verze rozhraní API, které voláte. Hodnota, na kterou se zde odkazuje, je určená pro nejnovější vydané verze. Další informace o dalších dostupných verzích rozhraní API
2022-05-01
Hlavičky
K ověření požadavku použijte následující hlavičku.
Key
Hodnota
Ocp-Apim-Subscription-Key
Klíč k vašemu prostředku. Používá se k ověřování požadavků rozhraní API.
Text požadavku
V textu požadavku použijte následující KÓD JSON. Použijte název modelu, který chcete přiřadit k nasazení.
{
"trainedModelLabel": "{MODEL-NAME}"
}
Klíč
Zástupný symbol
Hodnota
Příklad
trainedModelLabel
{MODEL-NAME}
Název modelu, který se přiřadí k vašemu nasazení. Úspěšně natrénované modely můžete přiřadit pouze. U této hodnoty se rozlišují malá a velká písmena.
myModel
Po odeslání požadavku rozhraní API obdržíte 202 odpověď, která značí, že úloha byla odeslána správně. V hlavičce odpovědi extrahujte operation-location hodnotu. Bude formátován takto:
{JOB-ID} slouží k identifikaci vašeho požadavku, protože tato operace je asynchronní. Tuto adresu URL můžete použít k získání stavu nasazení.
Získání stavu úlohy nasazení
Pomocí následujícího požadavku GET zadejte dotaz na stav úlohy nasazení. Můžete použít adresu URL, kterou jste obdrželi z předchozího kroku, nebo nahradit níže uvedené zástupné hodnoty vlastními hodnotami.
Název projektu. U této hodnoty se rozlišují malá a velká písmena.
myProject
{DEPLOYMENT-NAME}
Název nasazení. U této hodnoty se rozlišují malá a velká písmena.
staging
{JOB-ID}
ID pro vyhledání stavu trénování modelu. Toto je hodnota hlavičky location , kterou jste obdrželi v předchozím kroku.
xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}
Verze rozhraní API, které voláte. Hodnota, na kterou se zde odkazuje, je určená pro nejnovější vydané verze. Další informace o dalších dostupných verzích rozhraní API
2022-05-01
Hlavičky
K ověření požadavku použijte následující hlavičku.
Key
Hodnota
Ocp-Apim-Subscription-Key
Klíč k vašemu prostředku. Používá se k ověřování požadavků rozhraní API.
Text odpovědi
Po odeslání požadavku se zobrazí následující odpověď. Pokračujte v dotazování na tento koncový bod, dokud se parametr stavu nezmění na "úspěch". Měli byste získat 200 kód, který indikuje úspěch požadavku.
Nasazení můžete prohodit po otestování modelu přiřazeného k jednomu nasazení a chcete ho přiřadit k jinému. Při prohození nasazení je potřeba vzít model přiřazený k prvnímu nasazení a přiřadit ho druhému nasazení. Potom model přiřazený k druhému nasazení a přiřaďte ho k prvnímu nasazení. To se dá použít k prohození vašich production a staging nasazení, když chcete model přiřadit staging a přiřadit ho production.
Pokud chcete odstranit nasazení ze sady Language Studio, přejděte na stránku Nasazení modelu . Vyberte nasazení, které chcete odstranit, a v horní nabídce vyberte Odstranit nasazení .
K odstranění nasazení vytvořte požadavek DELETE pomocí následující adresy URL, hlaviček a textu JSON.
Název projektu. U této hodnoty se rozlišují malá a velká písmena.
myProject
{DEPLOYMENT-NAME}
Název vašeho nasazení. U této hodnoty se rozlišují malá a velká písmena.
prod
{API-VERSION}
Verze rozhraní API, které voláte. Hodnota, na kterou se zde odkazuje, je určená pro nejnovější vydané verze. Další informace o dalších dostupných verzích rozhraní API
2022-05-01
Hlavičky
K ověření požadavku použijte následující hlavičku.
Key
Hodnota
Ocp-Apim-Subscription-Key
Klíč k vašemu prostředku. Používá se k ověřování požadavků rozhraní API.
Po odeslání požadavku rozhraní API obdržíte 202 odpověď s informací o úspěchu, což znamená, že vaše nasazení bylo odstraněno. Výsledky úspěšného volání se záhlavím Operation-Location sloužícím ke kontrole stavu úlohy.
Přiřazení prostředků nasazení
Projekt můžete nasadit do více oblastí přiřazením různých jazykových prostředků, které existují v různých oblastech.
Ujistěte se, že jste se přiřadili jako vlastník jazyka Cognitive Services k prostředku, který jste použili k vytvoření projektu.
Přejděte na stránku Nasazení modelu v sadě Language Studio.
Vyberte kartu Oblasti.
Vyberte Přidat prostředek nasazení.
Vyberte prostředek jazyka v jiné oblasti.
Teď jste připraveni nasadit projekt do oblastí, ve kterých jste přiřadili zdroje.
Programové přiřazování prostředků nasazení vyžaduje ověřování Microsoft Entra. ID Microsoft Entra se používá k potvrzení, že máte přístup k prostředkům, které vás zajímají, přiřazování k projektu pro nasazení ve více oblastech. Pokud chcete při volání rozhraní REST API používat ověřování Microsoft Entra prostřednictvím kódu programu, přečtěte si další informace v dokumentaci ke službám Azure AI.
Přiřazení prostředku
Odešlete požadavek POST pomocí následující adresy URL, hlaviček a textu JSON pro přiřazení prostředků nasazení.
Adresa URL požadavku
Při vytváření požadavku rozhraní API použijte následující adresu URL. Nahraďte níže uvedené zástupné hodnoty vlastními hodnotami.
Vlastní subdoména prostředku, který chcete přiřadit. Na webu Azure Portal na kartě Klíče a koncový bod prostředku se nachází jako pole Koncový bod v adrese URL. https://<your-custom-subdomain>.cognitiveservices.azure.com/
contosoresource
region
{REGION-CODE}
Kód oblasti určující oblast prostředku, který chcete přiřadit. Nachází se na webu Azure Portal na kartě Klíče a koncový bod prostředku v poli Umístění/oblast .
eastus
Získání stavu přiřazení prostředku
Pomocí následujícího požadavku GET získejte stav úlohy přiřazení prostředku nasazení. Nahraďte níže uvedené zástupné hodnoty vlastními hodnotami.
Název projektu. U této hodnoty se rozlišují malá a velká písmena.
myProject
{JOB-ID}
ID úlohy pro získání stavu přiřazení nasazení. Toto je hodnota operation-location hlavičky, kterou jste získali z rozhraní API v reakci na požadavek na přiřazení prostředku nasazení.
xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}
Verze rozhraní API, které voláte.
2022-10-01-preview
Hlavičky
K ověření požadavku použijte následující hlavičku.
Key
Hodnota
Ocp-Apim-Subscription-Key
Klíč k vašemu prostředku. Používá se k ověřování požadavků rozhraní API.
Text odpovědi
Po odeslání požadavku se zobrazí následující odpověď. Pokračujte v dotazování tohoto koncového bodu, dokud se status parametr nezmění na succeeded.
Název projektu. U této hodnoty se rozlišují malá a velká písmena.
myProject
{JOB-ID}
ID úlohy pro získání stavu přiřazení nasazení. Toto je hodnota operation-location hlavičky, kterou jste obdrželi z rozhraní API v reakci na vaši žádost o prostředek nasazení bez přiřazení.
xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}
Verze rozhraní API, které voláte.
2022-10-01-preview
Hlavičky
K ověření požadavku použijte následující hlavičku.
Key
Hodnota
Ocp-Apim-Subscription-Key
Klíč k vašemu prostředku. Používá se k ověřování požadavků rozhraní API.
Text odpovědi
Po odeslání požadavku se zobrazí následující odpověď. Pokračujte v dotazování na tento koncový bod, dokud se parametr stavu nezmění na "úspěch".