Kurz: Generování imagí pomocí bezserverových grafických procesorů v Azure Container Apps (Preview)
V tomto článku se dozvíte, jak vytvořit aplikaci typu kontejner, která používá bezserverové GPU k napájení aplikace AI.
Bezserverové gpu máte přímý přístup k výpočetním prostředkům GPU, aniž byste museli provádět ruční konfiguraci infrastruktury, jako je instalace ovladačů. Stačí nasadit image modelu AI.
V tomto kurzu:
- Vytvoření nové aplikace kontejneru a prostředí
- Konfigurace prostředí pro použití bezserverových grafických procesorů
- Nasazení aplikace do Azure Container Apps
- Použití nové bezserverové aplikace umožňující GPU
- Povolení streamování artefaktů za účelem snížení studeného startu GPU
Požadavky
| Resource | Popis |
|---|---|
| Účet Azure | Potřebujete účet Azure s aktivním předplatným. Pokud jej nemáte, můžete si jej zdarma vytvořit. |
| Instance služby Azure Container Registry | K jeho vytvoření potřebujete existující instanci služby Azure Container Registry nebo oprávnění. |
| Přístup k bezserverové gpu | Přístup k grafickým procesorům je k dispozici až po vyžádání kvót GPU. Žádost o kvótu GPU můžete odeslat prostřednictvím případu zákaznické podpory. |
Vytvoření kontejnerové aplikace
Přejděte na Web Azure Portal a vyhledejte a vyberte Container Apps.
Vyberte Vytvořit a pak vyberte Kontejnerová aplikace.
V okně Základy zadejte do každé části následující hodnoty.
V části Podrobnosti projektu zadejte následující hodnoty:
Nastavení Hodnota Předplatné Vyberte své předplatné Azure. Skupina zdrojů Vyberte Vytvořit nový a zadejte my-gpu-demo-group. Název kontejnerové aplikace Zadejte my-gpu-demo-app. Zdroj nasazení Vyberte image kontejneru. V části Prostředí Container Apps zadejte následující hodnoty:
Nastavení Hodnota Oblast Vyberte USA – západ 3.
Další podporované oblasti najdete v tématu Použití bezserverových gpu v Azure.Prostředí Container Apps Vyberte, že chcete vytvořit novou IP adresu. V okně vytvořit prostředí Container Apps zadejte následující hodnoty:
Nastavení Hodnota Název prostředí Zadejte my-gpu-demo-env. Vyberte Vytvořit.
Vyberte Další: Kontejner >.
V okně Kontejner zadejte následující hodnoty:
Nastavení Hodnota Name Zadejte kontejner my-gpu-demo-container. Zdroj obrázku Vyberte Docker Hub nebo jiné registry. Typ obrázku Vyberte veřejnou. Přihlašovací server registru Zadejte mcr.microsoft.com. Obrázek a značka Zadejte k8se/gpu-quickstart:latest. Profil úlohy Vyberte možnost, která začíná spotřebou – až 4... GPU Zaškrtněte políčko. Typ GPU Vyberte možnost T4 a vyberte odkaz pro přidání profilu do vašeho prostředí. Vyberte Další: Příchozí přenos dat >.
V okně Příchozí přenos dat zadejte následující hodnoty:
Nastavení Hodnota Příchozí přenos dat Zaškrtněte políčko Povoleno. Příchozí přenos dat Vyberte přepínač Přijmout provoz odkudkoli. Cílový port Zadejte 80. Vyberte Zkontrolovat a vytvořit.
Vyberte Vytvořit.
Chvíli počkejte, než se nasazení dokončí, a pak vyberte Přejít k prostředku.
Dokončení tohoto procesu může trvat až pět minut.
Použití aplikace GPU
V okně Přehled vyberte odkaz Adresa URL aplikace a otevřete front-end webové aplikace v prohlížeči a použijte aplikaci GPU.
Poznámka:
- Pokud chcete dosáhnout nejlepšího výkonu aplikací GPU, postupujte podle pokynů ke zlepšení studeného startu pro bezserverové GPU.
- Pokud ve vaší aplikaci existuje více kontejnerů, získá první kontejner přístup k GPU.
Monitorování GPU
Po vygenerování image můžete pomocí následujícího postupu zobrazit výsledky zpracování GPU:
Otevřete aplikaci kontejneru na webu Azure Portal.
V části Monitorování vyberte Konzola.
Vyberte repliku.
Vyberte kontejner.
Vyberte *Znovu připojit.
V příkazovém okně Zvolit spuštění vyberte /bin/bash a vyberte Připojit.
Po nastavení prostředí zadejte příkaz nvidia-smi a zkontrolujte stav a výstup gpu.
Vyčištění prostředků
Prostředky vytvořené v tomto kurzu mají vliv na fakturu za Azure.
Pokud tyto služby nebudete používat dlouhodobě, odeberte všechno vytvořené v tomto kurzu pomocí kroků.
Na webu Azure Portal vyhledejte a vyberte Skupiny prostředků.
Vyberte my-gpu-demo-group.
Vyberte Odstranit skupinu prostředků.
Do potvrzovací pole zadejte my-gpu-demo-group.
Vyberte Odstranit.