Tutoriel : Générer des images à l’aide de GPU serverless dans Azure Container Apps (préversion)
Dans cet article, vous allez apprendre à créer une application conteneur qui utilise des GPU serverless pour alimenter une application IA.
Avec des GPU serverless, vous bénéficiez d’un accès direct aux ressources de calcul des GPU sans aucune tâche manuelle de configuration de l’infrastructure, comme l’installation de pilotes. Il vous suffit de déployer l’image de votre modèle IA.
Dans ce tutoriel, vous allez :
- Créer une application conteneur et un environnement
- Configurer l’environnement pour utiliser des GPU serverless
- Déployer votre application sur Azure Container Apps
- Utiliser la nouvelle application avec des GPU serverless
- Activer la diffusion en continu d’artefacts pour réduire le démarrage à froid des GPU
Prérequis
| Ressource | Description |
|---|---|
| Compte Azure | Vous devez avoir un compte Azure avec un abonnement actif. Si vous n’en avez pas, vous pouvez en créer un gratuitement. |
| Instance Azure Container Registry | Vous avez besoin d’une instance Azure Container Registry existante ou des autorisations nécessaires pour en créer une. |
| Accès aux GPU serverless | L’accès aux GPU n’est disponible qu’après la demande de quotas de GPU. Vous pouvez soumettre votre demande de quota GPU via une tâche d’assistance à la clientèle. |
Créer votre application conteneur
Accédez au Portail Azure, puis recherchez et sélectionnez Applications conteneur.
Sélectionnez Créer, puis Application conteneur.
Dans la fenêtre Informations de base, entrez les valeurs suivantes dans chaque section.
Sous Détails du projet, entrez les valeurs suivantes :
Paramètre Valeur Abonnement Sélectionnez votre abonnement Azure. Resource group Sélectionnez Créer nouveau, puis entrez my-gpu-demo-group. Nom de l’application conteneur Entrez my-gpu-demo-group. Source de déploiement Sélectionnez Image conteneur. Sous Environnement Container Apps, entrez les valeurs suivantes :
Paramètre Valeur Région Sélectionnez USA Ouest 3.
Pour plus de régions prises en charge, reportez-vous à Utilisation de GPU serverless dans Azure.Environnement Container Apps Sélectionnez Créer nouveau. Dans la fenêtre Créer un environnement Container Apps, entrez les valeurs suivantes :
Paramètre Valeur Nom de l’environnement Entrez my-gpu-demo-env. Sélectionnez Créer.
Sélectionnez Suivant : Conteneur >.
Dans la fenêtre Conteneur, entrez les valeurs suivantes :
Paramètre Valeur Nom Entrez my-gpu-demo-container. Source de l’image Sélectionnez Docker Hub ou d’autres registres. Type d’image Sélectionnez public. Serveur de connexion au registre Entrez mcr.microsoft.com. Image et étiquette Entrez k8se/gpu-quickstart:latest. Profil de charge de travail Sélectionnez l’option qui commence par Consommation – Jusqu’à 4... GPU Cochez la case . Type de GPU Sélectionnez l’option T4, puis sélectionnez le lien pour ajouter le profil à votre environnement. Sélectionnez Suivant : Entrée >.
Dans la fenêtre Entrée, entrez les valeurs suivantes :
Paramètre Valeur Entrée Cochez la case Activé. Trafic d’entrée Sélectionnez la case d’option Acceptation du trafic depuis n’importe où. Port cible Entrez 80. Sélectionnez Revoir + créer.
Sélectionnez Créer.
Attendez quelques instants que le déploiement se termine, puis sélectionnez Accéder à la ressource.
Ce processus peut prendre jusqu’à cinq minutes.
Utiliser votre application GPU
Dans la fenêtre Vue d’ensemble, sélectionnez le lien URL de l’application pour ouvrir le front-end de l’application web dans votre navigateur et utiliser l’application GPU.
Remarque
Pour optimiser les performances de vos applications GPU, suivez les étapes en vue d’améliorer le démarrage à froid de vos GPU serverless.
Surveiller votre GPU
Une fois que vous avez généré une image, effectuez les étapes suivantes pour afficher les résultats du traitement GPU :
Ouvrez votre application conteneur dans le portail Azure.
Dans la section Surveillance, sélectionnez Console.
Sélectionnez votre réplica.
Sélectionnez votre conteneur.
Sélectionnez *Reconnecter.
Dans la fenêtre Choisir la commande de démarrage, sélectionnez /bin/bash, puis Connecter.
Une fois l’interpréteur de commandes configuré, entrez la commande nvidia-smi pour passer en revue l’état et la sortie de votre GPU.
Nettoyer les ressources
Les ressources créées dans ce tutoriel ont un effet sur votre facture Azure.
Si vous ne prévoyez pas d’utiliser ces services à long terme, suivez les étapes pour supprimer tout ce qui a été créé dans ce tutoriel.
Dans le Portail Azure, recherchez et sélectionnez Groupes de ressources.
Sélectionnez my-gpu-demo-group.
Sélectionnez Supprimer le groupe de ressources.
Dans la zone de confirmation, entrez my-gpu-demo-group.
Sélectionnez Supprimer.