Udostępnij za pośrednictwem

Przyspieszanie procesora GPU dla usługi Azure IoT Edge dla systemu Linux w systemie Windows

  • Artykuł

Dotyczy: Ikona tak IoT Edge 1.1

Ważne

Data zakończenia wsparcia usługi IoT Edge 1.1 wynosiła 13 grudnia 2022 r. Zapoznaj się z cyklem życia produktów firmy Microsoft, aby uzyskać informacje na temat sposobu obsługi tego produktu lub interfejsu API albo tej usługi lub technologii. Aby uzyskać więcej informacji na temat aktualizowania do najnowszej wersji usługi IoT Edge, zobacz Aktualizowanie usługi IoT Edge.

Procesory GPU są popularnym wyborem do obliczeń sztucznej inteligencji, ponieważ oferują możliwości przetwarzania równoległego i często mogą wykonywać wnioskowanie oparte na obrazie szybciej niż procesory CPU. Aby lepiej obsługiwać aplikacje sztucznej inteligencji i uczenia maszynowego, usługa Azure IoT Edge dla systemu Linux w systemie Windows (EFLOW) może uwidocznić procesor GPU modułowi maszyny wirtualnej z systemem Linux.

Usługa Azure IoT Edge dla systemu Linux w systemie Windows obsługuje kilka technologii przekazywania procesora GPU, w tym:

  • Bezpośrednie przypisanie urządzenia (DDA) — rdzenie procesora GPU są przydzielane do maszyny wirtualnej z systemem Linux lub hosta.

  • Gpu-Paravirtualization (GPU-PV) — procesor GPU jest współużytkowany między maszyną wirtualną z systemem Linux a hostem.

Należy wybrać odpowiednią metodę przekazywania podczas wdrażania, aby dopasować do obsługiwanych możliwości sprzętu procesora GPU urządzenia.

Ważne

Funkcje te mogą obejmować składniki opracowane i należące do firmy NVIDIA Corporation lub jej licencjodawców. Korzystanie ze składników podlega umowie licencyjnej użytkownika końcowego firmy NVIDIA znajdującej się w witrynie internetowej firmy NVIDIA.

Korzystając z funkcji przyspieszania procesora GPU, akceptujesz i wyrażasz zgodę na warunki umowy licencyjnej użytkownika końcowego firmy NVIDIA.

Wymagania wstępne

Funkcje przyspieszania procesora GPU usługi Azure IoT Edge dla systemu Linux w systemie Windows obecnie obsługują wybrany zestaw sprzętu procesora GPU. Ponadto użycie tej funkcji może wymagać określonych wersji systemu Windows.

Obsługiwane procesory GPU i wymagane wersje systemu Windows są wymienione poniżej:

Obsługiwane procesory GPU Typ przekazywania procesora GPU Obsługiwane wersje systemu Windows
NVIDIA T4, A2 DDA Windows Server 2019
Windows Server 2022
Windows 10/11 (Pro, Enterprise, IoT Enterprise)
NVIDIA GeForce, Quadro, RTX GPU-PV Windows 10/11 (Pro, Enterprise, IoT Enterprise)
Intel iGPU GPU-PV Windows 10/11 (Pro, Enterprise, IoT Enterprise)

Ważne

Obsługa procesorów GPU-PV może być ograniczona do niektórych generacji procesorów lub architektur gpu określonych przez dostawcę procesora GPU. Aby uzyskać więcej informacji, zobacz dokumentację sterownika iGPU firmy Intel lub dokumentację CUDA firmy NVIDIA dla WSL.

Użytkownicy systemu Windows Server 2019 muszą używać minimalnej kompilacji 17763 z zainstalowanymi wszystkimi bieżącymi aktualizacjami zbiorczymi.

Użytkownicy systemu Windows 10 muszą używać kompilacji aktualizacji z listopada 2021 r. 19044.1620 lub nowszej. Po zakończeniu instalacji możesz zweryfikować wersję kompilacji, uruchamiając polecenie winver w wierszu polecenia.

Przekazywanie procesora GPU nie jest obsługiwane w przypadku wirtualizacji zagnieżdżonej, takiej jak uruchamianie funkcji EFLOW na maszynie wirtualnej z systemem Windows.

Instalacja i instalacja systemu

Poniższe sekcje zawierają informacje o instalacji i instalacji zgodnie z procesorem GPU.

Procesory GPU NVIDIA T4/A2

W przypadku procesorów GPU T4/A2 firma Microsoft zaleca zainstalowanie sterownika ograniczania ryzyka urządzenia od dostawcy procesora GPU. Chociaż jest to opcjonalne, zainstalowanie sterownika ograniczania ryzyka może poprawić bezpieczeństwo wdrożenia. Aby uzyskać więcej informacji, zobacz Wdrażanie urządzeń graficznych przy użyciu bezpośredniego przypisania urządzenia.

Ostrzeżenie

Włączenie przekazywania urządzeń sprzętowych może zwiększyć ryzyko bezpieczeństwa. Firma Microsoft zaleca sterownik ograniczania ryzyka urządzenia od dostawcy procesora GPU, jeśli ma to zastosowanie. Aby uzyskać więcej informacji, zobacz Wdrażanie urządzeń graficznych przy użyciu dyskretnego przypisania urządzenia.

PROCESORy GPU NVIDIA GeForce/Quadro/RTX

W przypadku procesorów GPU NVIDIA GeForce/Quadro/RTX pobierz i zainstaluj sterownik obsługujący funkcję NVIDIA CUDA dla Podsystem Windows dla systemu Linux (WSL) do użycia z istniejącymi przepływami pracy CUDA ML. Pierwotnie opracowany dla WSL, sterowniki CUDA dla WSL są również używane dla usługi Azure IoT Edge dla systemu Linux w systemie Windows.

Użytkownicy systemu Windows 10 muszą również zainstalować protokół WSL , ponieważ niektóre biblioteki są współużytkowane przez systemy WSL i Azure IoT Edge dla systemu Linux w systemie Windows.

Procesory iGP Intel

W przypadku procesorów iGP Firmy Intel pobierz i zainstaluj sterownik graficzny Intel z obsługą procesora GPU WSL.

Użytkownicy systemu Windows 10 muszą również zainstalować protokół WSL , ponieważ niektóre biblioteki są współużytkowane przez systemy WSL i Azure IoT Edge dla systemu Linux w systemie Windows.

Włączanie przyspieszania procesora GPU we wdrożeniu usługi Azure IoT Edge w systemie Linux

Po zakończeniu instalacji systemu możesz utworzyć wdrożenie usługi Azure IoT Edge dla systemu Linux w systemie Windows. Podczas tego procesu należy włączyć procesor GPU w ramach wdrożenia EFLOW.

Na przykład poniższe polecenie tworzy maszynę wirtualną z przypisanym procesorem GPU NVIDIA A2.

Deploy-Eflow -gpuPassthroughType "DirectDeviceAssignment" -gpuCount 1 -gpuName "NVIDIA A2"

Po zakończeniu instalacji możesz przystąpić do wdrażania i uruchamiania modułów z przyspieszonym procesorem GPU systemu Linux za pośrednictwem usługi Azure IoT Edge dla systemu Linux w systemie Windows.

Następne kroki