Tutorial: Gerar imagens usando GPUs sem servidor em Aplicativos de Contêiner do Azure (visualização)
Neste artigo, você aprenderá a criar um aplicativo de contêiner que usa GPUs sem servidor para alimentar um aplicativo de IA.
Com GPUs sem servidor, você tem acesso direto aos recursos de computação da GPU sem ter que fazer a configuração manual da infraestrutura, como a instalação de drivers. Tudo o que você precisa fazer é implantar a imagem do seu modelo de IA.
Neste tutorial, você:
- Criar um novo aplicativo e ambiente de contêiner
- Configurar o ambiente para usar GPUs sem servidor
- Implantar seu aplicativo em Aplicativos de Contêiner do Azure
- Use o novo aplicativo habilitado para GPU sem servidor
- Habilite o streaming de artefatos para reduzir o arranque a frio da GPU
Pré-requisitos
| Recurso | Description |
|---|---|
| Conta do Azure | Você precisa de uma conta do Azure com uma assinatura ativa. Se não tiver uma, pode criar uma gratuitamente. |
| Instância do Registro de Contêiner do Azure | Você precisa de uma instância existente do Registro de Contêiner do Azure ou das permissões para criar uma. |
| Acesso a GPUs sem servidor | O acesso às GPUs só está disponível depois de solicitar cotas de GPU. Você pode enviar sua solicitação de cota de GPU por meio de um caso de suporte ao cliente. |
Crie seu aplicativo de contêiner
Vá para o portal do Azure e procure e selecione Aplicativos de contêiner.
Selecione Criar e, em seguida, selecione Aplicativo de contêiner.
Na janela Noções básicas, insira os seguintes valores em cada seção.
Em Detalhes do projeto, insira os seguintes valores:
Definição Value Subscrição Selecione a subscrição do Azure. Grupo de recursos Selecione Criar novo e insira my-gpu-demo-group. Nome do aplicativo de contêiner Digite my-gpu-demo-app. Origem da implementação Selecione Imagem de contêiner. Em Ambiente de aplicativos de contêiner, insira os seguintes valores:
Definição Value País/Região Selecione Oeste dos EUA 3.
Para obter mais regiões com suporte, consulte Usando GPUs sem servidor no Azure.Ambiente de aplicativos de contêiner Selecione Criar novo. Na janela do ambiente Create Container Apps, insira os seguintes valores:
Definição Value Nome do ambiente Digite my-gpu-demo-env. Selecione Criar.
Selecione Next: Container >.
Na janela Contêiner, insira os seguintes valores:
Definição Valor Nome Digite my-gpu-demo-container. Origem da imagem Selecione Docker Hub ou outros registros. Tipo de imagem Selecione público. Servidor de login do Registro Digite mcr.microsoft.com. Imagem e tag Digite k8se/gpu-quickstart:latest. Perfil da carga de trabalho Selecione a opção que começa com Consumo - Até 4... GPU Marque a caixa de seleção. Tipo de GPU Selecione a opção T4 e selecione o link para adicionar o perfil ao seu ambiente. Selecione Next: Ingress >.
Na janela Ingress, insira os seguintes valores:
Definição Value Entrada Marque a caixa de seleção Habilitado . Tráfego de entrada Selecione o botão de opção Aceitando tráfego de qualquer lugar . Porta de destino Digite 80. Selecione Rever + criar.
Selecione Criar.
Aguarde alguns momentos até que a implantação seja concluída e selecione Ir para recurso.
Esse processo pode levar até cinco minutos para ser concluído.
Usar seu aplicativo GPU
Na janela Visão geral, selecione o link URL do aplicativo para abrir o front-end do aplicativo Web em seu navegador e usar o aplicativo GPU.
Nota
Para obter o melhor desempenho dos seus aplicativos GPU, siga as etapas para melhorar o arranque a frio para as GPUs sem servidor.
Monitorize o seu GPU
Depois de gerar uma imagem, use as seguintes etapas para visualizar os resultados do processamento da GPU:
Abra seu aplicativo de contêiner no portal do Azure.
Na seção Monitoramento, selecione Console.
Selecione sua réplica.
Selecione o seu contentor.
Selecione *Reconectar.
Na janela de comando Choose start up, selecione /bin/bash e selecione Connect.
Assim que o shell estiver configurado, digite o comando nvidia-smi para revisar o status e a saída da sua GPU.
Clean up resources (Limpar recursos)
Os recursos criados neste tutorial têm um efeito na sua fatura do Azure.
Se você não vai usar esses serviços a longo prazo, use as etapas para remover tudo o que foi criado neste tutorial.
No portal do Azure, procure e selecione Grupos de Recursos.
Selecione my-gpu-demo-group.
Selecione Eliminar grupo de recursos.
Na caixa de confirmação, digite my-gpu-demo-group.
Selecione Eliminar.