Tutorial: Gerar imagens usando as GPUs sem servidor nos Aplicativos de Contêiner do Azure (versão prévia)
Neste artigo, você aprenderá a criar um aplicativo de contêiner que usa as GPUs sem servidor para alimentar um aplicativo de IA.
Com as GPUs sem servidor, você tem acesso direto aos recursos de computação de GPU sem precisar fazer a configuração manual de infraestrutura, como instalar drivers. Tudo o que você precisa fazer é implantar a imagem do modelo de IA.
Neste tutorial, você:
- Crie um novo aplicativo de contêiner e um ambiente
- Configurar o ambiente para usar as GPUs sem servidor
- Implantar seu aplicativo nos Aplicativos de Contêiner do Azure
- Usar o novo aplicativo de habilitação de GPU sem servidor
- Habilitar o streaming de artefatos para reduzir a inicialização a frio da GPU
Pré-requisitos
| Recurso | Descrição |
|---|---|
| Conta do Azure | Você precisa de uma conta do Azure com uma assinatura ativa. Se você não tiver uma conta, é possível criar uma gratuitamente. |
| Instância do Registro de Contêiner do Azure | Você precisará de uma instância existente do Registro de Contêiner do Azure ou das permissões para criar uma. |
| Acesso às GPUs sem servidor | O acesso às GPUs só estará disponível após solicitar cotas de GPU. Envie sua solicitação de cota de GPU por meio de um caso de suporte ao cliente. |
Criar seu aplicativo de contêiner
Acesse o portal do Azure e pesquise e selecione Aplicativos de Contêiner.
Selecione Criar e selecione Aplicativo de Contêiner.
Na janela Básico, insira os seguintes valores em cada seção.
Em detalhes do Projeto, insira os seguintes valores:
Configuração Valor Subscription Selecione sua assinatura do Azure. Resource group Selecione Criar e insira my-gpu-demo-group. Nome do aplicativo de contêiner Insira my-gpu-demo-app. Fonte de implantação Selecione Imagem do contêiner. Em Ambiente de Aplicativos de Contêiner, insira os seguintes valores:
Configuração Valor Region Selecione Oeste dos EUA 3.
Para regiões com mais suporte, consulte Como usar as GPUs sem servidor no Azure.Ambiente de Aplicativos de Contêiner Selecione Criar novo. Na janela Criar ambiente de Aplicativos de Contêiner, insira os seguintes valores:
Configuração Valor Nome do ambiente Insira my-gpu-demo-env. Selecione Criar.
Selecione Avançar: contêiner >.
Na janela Contêiner, insira os seguintes valores:
Configuração Valor Nome Insira my-gpu-demo-container. Fonte da imagem Selecione Docker Hub ou outros registros. Tipo de imagem Selecione pública Servidor de logon do registro Insira mcr.microsoft.com. Imagem e marca Insira k8se/gpu-quickstart:latest. Perfil de carga de trabalho Selecione a opção que começa com Consumo – Até 4... GPU Marque a caixa de seleção . Tipo de GPU Selecione a opção T4 e selecione o link para adicionar o perfil ao seu ambiente. Selecione Avançar: entrada >.
Na janela Entrada, insira os seguintes valores:
Configuração Valor Entrada Selecione a caixa de seleção Habilitado. Tráfego de entrada Selecione botão de opção Aceitar tráfego de qualquer lugar. Porta de destino Insira 80. Selecione Examinar + criar.
Selecione Criar.
Aguarde alguns instantes para que a implantação seja concluída e selecione Ir para o recurso.
A conclusão desse processo pode demorar até cinco minutos.
Usar seu aplicativo de GPU
Na janela Visão geral, selecione o link do URL do Aplicativo para abrir o front-end do aplicativo Web no navegador e usar o aplicativo GPU.
Observação
Para obter o melhor desempenho de seus aplicativos de GPU, siga as etapas para melhorar o início frio para das GPUs sem servidor.
Monitore sua GPU
Após gerar uma imagem, use as seguintes etapas para exibir os resultados do processamento de GPU:
Abra seu aplicativo de contêiner no portal do Azure.
Na seção Monitoramento, selecione Console.
Selecione sua réplica.
Selecione o contêiner.
Selecione *Reconectar.
Na janela Escolher iniciar comando, selecione /bin/bashe selecione Conectar.
Após configurar o shell for, insira o comando nvidia-smi para examinar o status e a saída da GPU.
Limpar os recursos
Os recursos criados neste tutorial têm um efeito na sua fatura do Azure.
Se você não usar esses serviços a longo prazo, siga as etapas para remover tudo o que foi criado neste tutorial.
No portal do Azure pesquise e selecione Grupos de recursos.
Selecione my-gpu-demo-group.
Selecione Excluir grupo de recursos.
Na caixa de confirmação, insira my-gpu-demo-group.
Selecione Excluir.