Nasazování a spouštění kontejnerů v instanci kontejneru Azure

Následující kroky vám pomůžou snadno škálovat aplikace služeb Azure AI v cloudu pomocí služby Azure Container Instances. Kontejnerizace vám pomůže soustředit se na vytváření aplikací místo správy infrastruktury. Další informace o používání kontejnerů najdete v části věnované funkcím a výhodám.

Požadavky

Recept funguje s jakýmkoli kontejnerem služeb Azure AI. Prostředek služeb Azure AI se musí vytvořit před použitím receptu. Každá služba Azure AI, která podporuje kontejnery, má článek "Instalace" pro instalaci a konfiguraci služby pro kontejner. Některé služby vyžadují soubor nebo sadu souborů jako vstup pro kontejner. Před použitím tohoto řešení je důležité, abyste porozuměli kontejneru a úspěšně ho použili.

• Prostředek Azure pro službu Azure AI, kterou používáte.

• Adresa URL koncového bodu prostředku služby Azure AI – přečtěte si téma "Instalace" konkrétní služby pro kontejner, kde najdete adresu URL koncového bodu na webu Azure Portal a jak vypadá správný příklad adresy URL. Přesný formát se může změnit ze služby na službu.

• Klíč prostředku služby Azure AI – klíče jsou na stránce Klíče pro prostředek Azure. Potřebujete jenom jeden z těchto dvou klíčů. Klíč je řetězec 32 alfanumerálních znaků.

• Jeden kontejner služeb Azure AI na místním hostiteli (váš počítač). Ujistěte se, že můžete:

  • Stáhněte obrázek příkazem docker pull .
  • Spusťte místní kontejner úspěšně se všemi požadovanými nastaveními konfigurace pomocí docker run příkazu.
  • Volání koncového bodu kontejneru, získání odpovědi HTTP 2xx a odpovědi JSON zpět.

Všechny proměnné v hranatých závorkách, <>musí být nahrazeny vlastními hodnotami. Tato výměna zahrnuje úhlové závorky.

Důležité

Kontejner LUIS vyžaduje .gz soubor modelu, který se natahuje za běhu. Kontejner musí být schopný přistupovat k tomuto souboru modelu přes připojený svazek z instance kontejneru. Pokud chcete nahrát soubor modelu, postupujte takto:

1. Vytvořte sdílenou složku Azure. Poznamenejte si název účtu služby Azure Storage, klíč a název sdílené složky, protože je budete potřebovat později.
2. exportujte model LUIS (zabalenou aplikaci) z portálu LUIS.
3. Na webu Azure Portal přejděte na stránku Přehled prostředku účtu úložiště a vyberte Sdílené složky.
4. Vyberte název sdílené složky, kterou jste nedávno vytvořili, a pak vyberte Nahrát. Pak nahrajte zabalenou aplikaci.

Azure Portal

Vytvoření prostředku instance kontejneru Azure pomocí webu Azure Portal

1. Přejděte na stránku Vytvořit pro instance kontejneru.

2. Na kartě Základy zadejte následující podrobnosti:

   Nastavení	Hodnota
   Předplatné	Vyberte své předplatné.
   Skupina prostředků	Vyberte dostupnou skupinu prostředků nebo vytvořte novou, například cognitive-services.
   Název kontejneru	Zadejte název, například cognitive-container-instance. Název musí být v dolních capech.
   Umístění	Vyberte oblast pro nasazení.
   Typ obrázku	Pokud je image kontejneru uložená v registru kontejneru, který nevyžaduje přihlašovací údaje, zvolte Public. Pokud přístup k imagi kontejneru vyžaduje přihlašovací údaje, zvolte Private. Podrobnosti o tom, jestli je nebo není Public image kontejneru nebo Private (Public Preview), najdete v úložištích kontejnerů a imagích.
   Název image	Zadejte umístění kontejneru služeb Azure AI. Umístění je to, co se používá jako argument příkazu docker pull . Informace o dostupných názvech imagí a jejich odpovídajících úložištích najdete v úložištích kontejnerů a imagích . Název image musí být plně kvalifikovaný a musí obsahovat tři části. Nejprve registr kontejneru, pak úložiště, nakonec název image: <container-registry>/<repository>/<image-name>. Tady je příklad, mcr.microsoft.com/azure-cognitive-services/keyphrase který představuje image extrakce klíčových frází v Microsoft Container Registry v úložišti služeb Azure AI. Dalším příkladem je, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text který představuje obrázek převodu řeči na text v úložišti Microsoftu registru kontejneru Ve verzi Preview.
   Typ operačního systému	Linux
   Velikost	Změňte velikost na navrhovaná doporučení pro konkrétní kontejner Azure AI: 2 jádra procesoru 4 GB

3. Na kartě Sítě zadejte následující podrobnosti:

   Nastavení	Hodnota
   Porty	Nastavte port TCP na 5000hodnotu . Zpřístupní kontejner na portu 5000.

4. Na kartě Upřesnit zadejte požadované proměnné prostředí pro nastavení fakturace kontejneru prostředku instance kontejneru:

   Key	Hodnota
   ApiKey	Zkopírováno ze stránky Klíče a koncový bod prostředku. Jedná se o řetězec 32 alfanumerických znaků bez mezer nebo pomlček, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Adresa URL koncového bodu zkopírovaná ze stránky klíče a koncového bodu prostředku
   Eula	accept

5. Vyberte Zkontrolovat a vytvořit.

6. Po úspěšném ověření dokončete proces vytváření kliknutím na vytvořit .

7. Jakmile se prostředek úspěšně nasadí, je připravený.

Rozhraní příkazového řádku

Vytvoření prostředku instance kontejneru Azure z Azure CLI

Následující YAML definuje prostředek instance kontejneru Azure. Zkopírujte a vložte obsah do nového souboru s názvem my-aci.yaml a nahraďte okomentované hodnoty vlastními. Projděte si formát šablony pro platný YAML. Informace o dostupných názvech imagí a jejich odpovídajících úložištích najdete v úložištích kontejnerů a imagích . Další informace o referenční dokumentaci YAML pro instance kontejnerů najdete v referenčních informacích k YAML: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Poznámka:

Ne všechna umístění mají stejnou dostupnost procesoru a paměti. Seznam dostupných prostředků pro kontejnery podle umístění a operačního systému najdete v tabulce umístění a prostředků.

Budeme spoléhat na soubor YAML, který jsme pro az container create příkaz vytvořili. Z Azure CLI spusťte az container create příkaz, kterým <resource-group> nahradíte vlastní. Pro zabezpečení hodnot v rámci nasazení YAML se navíc vztahují k zabezpečeným hodnotám.

az container create -g <resource-group> -f my-aci.yaml

Výstup příkazu je Running... platný po nějaké době, kdy se výstup změní na řetězec JSON představující nově vytvořený prostředek ACI. Image kontejneru už nějakou dobu pravděpodobně není dostupná, ale prostředek je teď nasazený.

Tip

Věnujte pozornost umístěním služeb Azure AI ve verzi Public Preview, protože YAML bude potřeba odpovídajícím způsobem upravit tak, aby odpovídalo umístění.

Použití instance kontejneru

Azure Portal

1. Vyberte přehled a zkopírujte IP adresu. Bude to číselná IP adresa, například 55.55.55.55.

2. Otevřete novou kartu prohlížeče a použijte IP adresu, http://<IP-address>:5000 (http://55.55.55.55:5000například ). Zobrazí se domovská stránka kontejneru s oznámením, že kontejner je spuštěný.

   

3. Výběrem popisu rozhraní API služby zobrazíte stránku swaggeru kontejneru.

4. Vyberte libovolná z rozhraní POST API a vyberte Vyzkoušet. Zobrazí se parametry včetně vstupu. Vyplňte parametry.

5. Výběrem příkazu Execute (Spustit ) odešlete požadavek do vaší instance kontejneru.

   Úspěšně jste vytvořili a použili kontejnery Azure AI ve službě Azure Container Instance.

Rozhraní příkazového řádku

Ověření, že je kontejner spuštěný

Existuje několik způsobů, jak ověřit, že je kontejner spuštěný. Vyhledejte externí IP adresu a vystavený port kontejneru a otevřete svůj oblíbený webový prohlížeč. Pomocí různých adres URL požadavků, které následují, ověřte, že kontejner běží. Tady jsou uvedené http://localhost:5000ukázkové adresy URL požadavků, ale váš konkrétní kontejner se může lišit. Ujistěte se, že spoléháte na externí IP adresu kontejneru a vystavený port.

Adresa URL požadavku	Účel
http://localhost:5000/	Kontejner poskytuje domovskou stránku.
http://localhost:5000/ready	Požadovaná pomocí příkazu GET poskytuje tuto adresu URL ověření, že kontejner je připravený přijmout dotaz na model. Tento požadavek je možné použít pro sondy připravenosti a aktivity Kubernetes.
http://localhost:5000/status	Tato adresa URL také vyžaduje get, ověří, jestli klíč rozhraní API použitý ke spuštění kontejneru je platný, aniž by způsoboval dotaz koncového bodu. Tento požadavek je možné použít pro sondy připravenosti a aktivity Kubernetes.
http://localhost:5000/swagger	V kontejneru je ke koncovým bodům a k funkci Vyzkoušet kompletní dokumentace. Pomocí této funkce můžete zadat nastavení do webového formuláře HTML a vytvořit dotaz, aniž byste museli psát žádný kód. Po vrácení dotazu se zobrazí příklad příkazu CURL, který předvede požadované hlavičky HTTP a základní formát.

Poznámka:

Pokud spouštíte Analýza textu pro kontejner stavu, odešlete dotazy pomocí následující adresy URL:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health