Samouczek: generowanie obrazów przy użyciu bezserwerowych procesorów GPU w usłudze Azure Container Apps (wersja zapoznawcza)
Z tego artykułu dowiesz się, jak utworzyć aplikację kontenera, która używa bezserwerowych procesorów GPU do zasilania aplikacji sztucznej inteligencji.
W przypadku bezserwerowych procesorów GPU masz bezpośredni dostęp do zasobów obliczeniowych procesora GPU bez konieczności ręcznej konfiguracji infrastruktury, takiej jak instalowanie sterowników. Wystarczy wdrożyć obraz modelu sztucznej inteligencji.
W tym samouczku wykonasz następujące elementy:
- Tworzenie nowej aplikacji kontenera i środowiska
- Konfigurowanie środowiska do używania bezserwerowych procesorów GPU
- Wdrażanie aplikacji w usłudze Azure Container Apps
- Korzystanie z nowej bezserwerowej aplikacji obsługującej procesor GPU
- Włączanie przesyłania strumieniowego artefaktów w celu zmniejszenia zimnego startu procesora GPU
Wymagania wstępne
| Zasób | opis |
|---|---|
| Konto platformy Azure | Potrzebujesz konta platformy Azure z aktywną subskrypcją. Jeśli nie masz konta, możesz je utworzyć teraz za darmo. |
| Wystąpienie usługi Azure Container Registry | Potrzebujesz istniejącego wystąpienia usługi Azure Container Registry lub uprawnień do jej utworzenia. |
| Dostęp do bezserwerowych procesorów GPU | Dostęp do procesorów GPU jest dostępny tylko po żądaniu limitów przydziału procesora GPU. Żądanie limitu przydziału procesora GPU można przesłać za pośrednictwem zgłoszenia do pomocy technicznej klienta. |
Tworzenie aplikacji kontenera
Przejdź do witryny Azure Portal i wyszukaj i wybierz pozycję Aplikacje kontenera.
Wybierz pozycję Utwórz , a następnie wybierz pozycję Aplikacja kontenera.
W oknie Podstawy wprowadź następujące wartości w każdej sekcji.
W obszarze Szczegóły projektu wprowadź następujące wartości:
Ustawienie Wartość Subskrypcja Wybierz subskrypcję platformy Azure. Resource group Wybierz pozycję Utwórz nowy i wprowadź ciąg my-gpu-demo-group. Nazwa aplikacji kontenera Wprowadź ciąg my-gpu-demo-app. Źródło wdrożenia Wybierz pozycję Obraz kontenera. W obszarze Środowisko usługi Container Apps wprowadź następujące wartości:
Ustawienie Wartość Region (Region) Wybierz pozycję Zachodnie stany USA 3.
Aby uzyskać więcej obsługiwanych regionów, zobacz Używanie bezserwerowych procesorów GPU na platformie Azure.Środowisko usługi Container Apps Wybierz pozycjęUtwórz nowy. W oknie Tworzenie środowiska usługi Container Apps wprowadź następujące wartości:
Ustawienie Wartość Nazwa środowiska Wprowadź ciąg my-gpu-demo-env. Wybierz pozycję Utwórz.
Wybierz pozycję Dalej: Kontener >.
W oknie Kontener wprowadź następujące wartości:
Ustawienie Wartość Nazwisko Wprowadź ciąg my-gpu-demo-container. Źródło obrazu Wybierz pozycję Docker Hub lub inne rejestry. Typ obrazu Wybierz pozycję publiczne. Serwer logowania rejestru Wprowadź mcr.microsoft.com. Obraz i tag Wprowadź ciąg k8se/gpu-quickstart:latest. Profil obciążenia Wybierz opcję rozpoczynającą się od Zużycie — do 4... Procesor GPU Zaznacz pole wyboru. Typ procesora GPU Wybierz opcję T4 i wybierz link, aby dodać profil do środowiska. Wybierz pozycję Dalej: Ruch przychodzący >.
W oknie Ruch przychodzący wprowadź następujące wartości:
Ustawienie Wartość Ruch przychodzący Zaznacz pole wyboru Włączone. Ruch przychodzący Wybierz przycisk radiowy Akceptowanie ruchu z dowolnego miejsca. Port docelowy Wprowadź wartość 80. Wybierz pozycję Przejrzyj i utwórz.
Wybierz pozycję Utwórz.
Poczekaj chwilę na zakończenie wdrożenia, a następnie wybierz pozycję Przejdź do zasobu.
Wykonanie tego procesu może potrwać do pięciu minut.
Korzystanie z aplikacji procesora GPU
W oknie Przegląd wybierz link Adres URL aplikacji, aby otworzyć fronton aplikacji internetowej w przeglądarce i użyć aplikacji procesora GPU.
Uwaga
- Aby uzyskać najlepszą wydajność aplikacji procesora GPU, wykonaj kroki, aby poprawić zimny start dla bezserwerowych procesorów GPU.
- Jeśli w aplikacji znajduje się wiele kontenerów, pierwszy kontener uzyskuje dostęp do procesora GPU.
Monitorowanie procesora GPU
Po wygenerowaniu obrazu wykonaj następujące kroki, aby wyświetlić wyniki przetwarzania procesora GPU:
Otwórz aplikację kontenera w witrynie Azure Portal.
W sekcji Monitorowanie wybierz pozycję Konsola.
Wybierz replikę.
Wybierz kontener.
Wybierz pozycję *Połącz ponownie.
W oknie Wybieranie polecenia uruchamiania wybierz pozycję /bin/bash, a następnie wybierz pozycję Połącz.
Po skonfigurowaniu powłoki wprowadź polecenie nvidia-smi , aby przejrzeć stan i dane wyjściowe procesora GPU.
Czyszczenie zasobów
Zasoby utworzone w tym samouczku mają wpływ na rachunek za platformę Azure.
Jeśli nie zamierzasz korzystać z tych usług w perspektywie długoterminowej, wykonaj kroki, aby usunąć wszystkie elementy utworzone w tym samouczku.
W witrynie Azure Portal wyszukaj i wybierz pozycję Grupy zasobów.
Wybierz pozycję my-gpu-demo-group.
Wybierz pozycję Usuń grupę zasobów.
W polu potwierdzenia wprowadź ciąg my-gpu-demo-group.
Wybierz Usuń.