Sdílet prostřednictvím

Postup upgradu webových služeb Azure Container Instances na spravované online koncové body

  • Článek

Spravované online koncové body pomáhají nasazovat modely ML na klíč. Spravované online koncové body pracují s výkonnými procesory a GPU v Azure škálovatelným a plně spravovaným způsobem. Spravované online koncové body se starají o obsluhu, škálování, zabezpečení a monitorování vašich modelů a osvobodí vás od režijních nákladů na nastavení a správu základní infrastruktury. Podrobnosti najdete v tématu Nasazení a určení skóre modelu strojového učení pomocí online koncového bodu.

Pomocí předchozích modelů a prostředí můžete nasadit přímo do nového cílového výpočetního prostředí nebo pomocí skriptů , které nám poskytli, exportovat aktuální služby a pak nasadit do nového výpočetního prostředí, aniž by to mělo vliv na vaše stávající služby. Pokud webové služby Azure Container Instances (ACI) pravidelně vytváříte a odstraňujete, důrazně doporučujeme nasazení přímo a nepoužíváte skripty.

Důležité

Adresa URL bodování se po upgradu změní. Například adresa URL bodování pro webovou službu ACI je podobná http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Bodovací identifikátor URI spravovaného online koncového bodu je podobný https://endpoint-name.westus.inference.ml.azure.com/score.

Podporované scénáře a rozdíly

Režim ověřování

Pro spravovaný online koncový bod se nepodporuje žádné ověřování. Pokud použijete upgradovací skripty, převede se na ověřování klíčem. Pro ověření klíče se použijí původní klíče. Podporuje se také ověřování na základě tokenů.

Protokol TLS

Pro službu ACI zabezpečenou pomocí protokolu HTTPS už nemusíte zadávat vlastní certifikáty, všechny spravované online koncové body jsou chráněné protokolem TLS.

Vlastní název DNS se nepodporuje .

Požadavky na prostředek

ContainerResourceRequirements se nepodporuje, můžete zvolit správnou skladovou položku pro odvozování. Nástroj pro upgrade namapuje požadavek procesoru a paměti na odpovídající skladovou položku. Pokud se rozhodnete znovu nasadit ručně prostřednictvím rozhraní příkazového řádku nebo sady SDK verze 2, navrhneme také odpovídající skladovou položku pro vaše nové nasazení.

Žádost o procesor Požadavek na paměť v GB Navrhovaná skladová položka
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" znamená větší než a "]" znamená menší než nebo rovno. Například "(0, 1]" znamená "větší než 0 a menší než nebo rovno 1".

Důležité

Při upgradu z ACI dojde k nějakým změnám způsobu, jakým se vám budou účtovat poplatky. Podívejte se na náš blog o porovnání hrubých nákladů, které vám pomůžou vybrat správné skladové položky virtuálních počítačů pro vaši úlohu.

Izolace sítě

Scénáře privátního pracovního prostoru a virtuální sítě najdete v tématu Použití izolace sítě se spravovanými online koncovými body.

Důležité

Vzhledem k tomu, že pro váš pracovní prostor a virtuální síť existuje mnoho nastavení, důrazně doporučujeme znovu nasadit rozšíření Azure CLI v2 pro strojové učení místo nástroje pro skripty.

Nepodporováno

  • Šifrováníproperties pro kontejner ACI se nepodporuje.
  • Nástroj pro upgrade nepodporuje webové služby ACI nasazené prostřednictvím deploy_from_model a deploy_from_image. Ruční nasazení prostřednictvím rozhraní příkazového řádku nebo sady SDK verze 2

Kroky při upgradu

S naším rozhraním příkazového řádku nebo sadou SDK

Znovu nasaďte soubory modelu a definici prostředí ručně. Příklady najdete v příkladech azureml-examples. Konkrétně se jedná o příklad sady SDK pro spravovaný online koncový bod.

S naším nástrojem pro upgrade

Tento nástroj automaticky vytvoří nový spravovaný online koncový bod na základě vašich stávajících webových služeb. Na vaše původní služby to nebude mít vliv. Provoz můžete bezpečně směrovat do nového koncového bodu a potom odstranit starý.

Poznámka:

Skript upgradu je ukázkový skript a poskytuje se bez smlouvy o úrovni služeb (SLA).

Ke spuštění skriptů použijte následující kroky:

Tip

Nový koncový bod vytvořený skripty se vytvoří ve stejném pracovním prostoru.

  1. Ke spuštění skriptů použijte prostředí Bash. Například relace terminálu v Linuxu nebo Subsystém Windows pro Linux (WSL).

  2. Nainstalujte sadu Python SDK V1 , aby se spustil skript Pythonu.

  3. Nainstalujte Azure CLI.

  4. Naklonujte úložiště do místního prostředí. Například git clone https://github.com/Azure/azureml-examples.

  5. Upravte v migrate-service.sh souboru následující hodnoty. Nahraďte hodnoty hodnotami, které platí pro vaši konfiguraci.

    • <SUBSCRIPTION_ID> – ID předplatného vašeho předplatného Azure, které obsahuje váš pracovní prostor.
    • <RESOURCEGROUP_NAME> – Skupina prostředků, která obsahuje váš pracovní prostor.
    • <WORKSPACE_NAME> – Název pracovního prostoru.
    • <SERVICE_NAME> – Název vaší stávající služby ACI.
    • <LOCAL_PATH> – Místní cesta, kde se stáhnou prostředky a šablony používané skriptem.
    • <NEW_ENDPOINT_NAME> – Název nového koncového bodu, který se vytvoří. Doporučujeme, aby se nový název koncového bodu liší od předchozího názvu služby. Jinak se původní služba nezobrazí, pokud zkontrolujete koncové body na portálu.
    • <NEW_DEPLOYMENT_NAME> – Název nasazení do nového koncového bodu.

  6. Spusťte skript Bash. Například ./migrate-service.sh. Dokončení nového nasazení bude trvat přibližně 5 až 10 minut.

    Tip

    Pokud se při pokusu o spuštění skriptu zobrazí chyba, že skript není spustitelný nebo se otevře editor, označte skript jako spustitelný pomocí následujícího příkazu:

    chmod +x migrate-service.sh

  7. Po úspěšném dokončení nasazení můžete koncový bod ověřit pomocí příkazu az ml online-endpoint invoke .

Kontaktujte nás

Pokud máte nějaké dotazy nebo zpětnou vazbu ke skriptu upgradu, kontaktujte nás na adrese moeonboard@microsoft.com.

Další kroky