Esercitazione: Generare immagini usando GPU serverless in App Contenitore di Azure (anteprima)
Questo articolo illustra come creare un'app contenitore che usa GPU serverless per alimentare un'applicazione di intelligenza artificiale.
Con le GPU serverless è possibile accedere direttamente alle risorse di calcolo GPU senza dover eseguire la configurazione manuale dell'infrastruttura, ad esempio l'installazione dei driver. È tutto necessario distribuire l'immagine del modello di intelligenza artificiale.
In questa esercitazione:
- Creare una nuova app e un nuovo ambiente contenitore
- Configurare l'ambiente per l'uso di GPU serverless
- Distribuire l'app in App Azure Container
- Usare la nuova applicazione per l'abilitazione della GPU serverless
- Abilitare lo streaming degli artefatti per ridurre l'avvio a freddo della GPU
Prerequisiti
| Risorsa | Descrizione |
|---|---|
| Account Azure | È necessario un account Azure con una sottoscrizione attiva. Se non hai un account, puoi crearlo gratuitamente. |
| Istanza di Registro Azure Container | È necessaria un'istanza di Registro Azure Container esistente o le autorizzazioni per crearne una. |
| Accesso a GPU serverless | L'accesso alle GPU è disponibile solo dopo aver richiesto quote GPU. È possibile inviare la richiesta di quota GPU tramite un caso di supporto clienti. |
Creare l'app contenitore
Passare al portale di Azure e cercare e selezionare App contenitore.
Selezionare Crea e quindi App contenitore.
Nella finestra Informazioni di base immettere i valori seguenti in ogni sezione.
In Dettagli progetto immettere i valori seguenti:
Impostazione Valore Abbonamento Seleziona la tua sottoscrizione di Azure. Gruppo di risorse Selezionare Crea nuovo e immettere my-gpu-demo-group. Nome app contenitore Immettere my-gpu-demo-app. Origine distribuzione Selezionare Immagine del contenitore. In Ambiente app contenitore immettere i valori seguenti:
Impostazione Valore Paese Selezionare Stati Uniti occidentali 3.
Per altre aree supportate, vedere Uso di GPU serverless in Azure.Ambiente delle app contenitore Selezionare Crea nuovo. Nella finestra Crea ambiente app contenitore immettere i valori seguenti:
Impostazione Valore Nome ambiente Immettere my-gpu-demo-env. Selezionare Crea.
Selezionare Avanti: Contenitore >.
Nella finestra Contenitore immettere i valori seguenti:
Impostazione valore Name Immettere my-gpu-demo-container. Origine immagine Selezionare Docker Hub o altri registri. Tipo di immagine Selezionare pubblico. Server di accesso del registro Immettere mcr.microsoft.com. Immagine e tag Immettere k8se/gpu-quickstart:latest. Profilo del carico di lavoro Selezionare l'opzione che inizia con Consumo - Fino a 4... GPU Selezionare la casella di controllo . Tipo gpu Selezionare l'opzione T4 e selezionare il collegamento per aggiungere il profilo all'ambiente. Selezionare Avanti: Ingresso >.
Nella finestra Ingress (Ingresso) immettere i valori seguenti:
Impostazione Valore Dati in ingresso Seleziona la casella di controllo Abilitato. Traffico in ingresso Selezionare il pulsante di opzione Accetta traffico da qualsiasi posizione . Porta di destinazione Immettere 80. Selezionare Rivedi e crea.
Selezionare Crea.
Attendere alcuni istanti per il completamento della distribuzione e quindi selezionare Vai alla risorsa.
Il completamento di questo processo può richiedere fino a cinque minuti.
Usare l'app GPU
Nella finestra Panoramica selezionare il collegamento URL applicazione per aprire il front-end dell'app Web nel browser e usare l'applicazione GPU.
Nota
- Per ottenere prestazioni ottimali delle app GPU, seguire la procedura per migliorare l'avvio a freddo per le GPU serverless.
- Quando nell'applicazione sono presenti più contenitori, il primo contenitore ottiene l'accesso alla GPU.
Monitorare la GPU
Dopo aver generato un'immagine, seguire questa procedura per visualizzare i risultati dell'elaborazione GPU:
Aprire l'app contenitore nel portale di Azure.
Nella sezione Monitoraggio selezionare Console.
Selezionare la replica.
Selezionare il contenitore.
Selezionare *Riconnetti.
Nella finestra di comando Scegli avvio selezionare /bin/bash e selezionare Connetti.
Dopo aver configurato la shell, immettere il comando nvidia-smi per esaminare lo stato e l'output della GPU.
Pulire le risorse
Le risorse create in questa esercitazione hanno effetto sulla fattura di Azure.
Se non si intende usare questi servizi a lungo termine, seguire questa procedura per rimuovere tutti gli elementi creati in questa esercitazione.
Nella portale di Azure cercare e selezionare Gruppi di risorse.
Selezionare my-gpu-demo-group.
Selezionare Elimina gruppo di risorse.
Nella casella di conferma immettere my-gpu-demo-group.
Selezionare Elimina.