Virtuelle GPU-Computer für Azure Stack Edge Pro GPU-Geräte
GILT FÜR: Azure Stack Edge Pro – GPUAzure Stack Edge Pro 2Azure Stack Edge Pro R
GPU-beschleunigte Workloads auf einem Azure Stack Edge Pro GPU-Gerät erfordern einen virtuellen GPU-Computer. Dieser Artikel bietet eine Übersicht über GPU-VMs, einschließlich unterstützter Betriebssysteme, GPU-Treiber und VM-Größen. Bereitstellungsoptionen für GPU-VMs, die mit Kubernetes-Clustern verwendet werden, werden ebenfalls erläutert.
Informationen zu GPU-VMs
Ihre Azure Stack Edge-Geräte können mit einer oder zwei Tesla T4- oder Tensor Core A2-GPUs von Nvidia ausgestattet sein. Verwenden Sie zur Bereitstellung von VM-Workloads mit GPU-Beschleunigung auf diesen Geräten die GPU-optimierten VM-Größen. Die ausgewählte GPU-VM sollte mit dem Fabrikat der GPU Ihres Azure Stack Edge-Geräts übereinstimmen. Weitere Informationen finden Sie unter Unterstützte GPU-optimierte N-Serien-VMs.
Um die GPU-Funktionen von Azure-VMs der N-Serie nutzen zu können, müssen Nvidia-GPU-Treiber installiert werden. Mit der Nvidia-GPU-Treibererweiterung werden die entsprechende Nvidia-CUDA- oder -GRID-Treiber installiert. Sie können die GPU-Erweiterungen mithilfe von Vorlagen oder über das Azure-Portal installieren.
Sie können nach der VM-Bereitstellung die Erweiterung mithilfe von Azure Resource Manager-Vorlagen installieren und verwalten. Im Azure-Portal können Sie die GPU-Erweiterung während oder nach der Bereitstellung einer VM installieren. Anweisungen dazu finden Sie unter Bereitstellen von GPU-VMs auf Ihrem Azure Stack Edge-Gerät.
Wenn auf Ihrem Gerät ein Kubernetes-Cluster konfiguriert wurde, lesen Sie vor der Bereitstellung von GPU-VMs die Überlegungen zur Bereitstellung für Kubernetes-Cluster.
Unterstützte Betriebssysteme und GPU-Treiber
Die Nvidia-GPU-Treibererweiterungen für Windows und Linux unterstützen die folgenden Betriebssystemversionen.
Von der GPU-Erweiterung für Windows unterstützte Betriebssysteme
Diese Erweiterung unterstützt die folgenden Betriebssysteme. Andere Versionen funktionieren zwar möglicherweise ebenfalls, wurden jedoch nicht intern auf GPU-VMs getestet, die auf Azure Stack Edge-Geräten ausgeführt werden.
Distribution | Version |
---|---|
Windows Server 2019 | Core |
Windows Server 2016 | Core |
Von der GPU-Erweiterung für Linux unterstützte Betriebssysteme
Diese Erweiterung unterstützt die folgenden Betriebssystem-Distributionen, abhängig von der Treiberunterstützung für bestimmte Betriebssystemversionen. Andere Versionen funktionieren zwar möglicherweise ebenfalls, wurden jedoch nicht intern auf GPU-VMs getestet, die auf Azure Stack Edge-Geräten ausgeführt werden.
Distribution | Version |
---|---|
Red Hat Enterprise Linux | 7.4 |
Hinweis
Die Ubuntu 18.04 LTS GPU-Erweiterung wurde eingestellt. Die GPU-Erweiterung wird nicht mehr auf Ubuntu 18.04 GPU-VMs unterstützt, die auf Azure Stack Edge-Geräten ausgeführt werden. Wenn Sie beabsichtigen, die Ubuntu-Version 18.04 LTS zu nutzen, finden Sie die Schritte für die manuelle Installation des GPU-Treibers unter Downloads für CUDA-Toolkit 12.1 Update 1. Möglicherweise müssen Sie den CUDA-Signaturschlüssel vor der Installation herunterladen. Ein Beispiel zur Installation des Signaturschlüssels finden Sie unter Behandeln von Problemen mit der GPU-Erweiterung für GPU-VMs auf einem Azure Stack Edge Pro GPU-Gerät.
GPU-VM-Bereitstellung
Sie können eine GPU-VM über das Azure-Portal oder anhand von Azure Resource Manager-Vorlagen bereitstellen. Die GPU-Erweiterung wird nach dem Erstellen der VM installiert.
Portal: Im Azure-Portal können Sie die GPU-Erweiterung schnell beim Erstellen einer VM oder nach der VM-Bereitstellung installieren.
Vorlagen: Mithilfe von Azure Resource Manager-Vorlagen erstellen Sie eine VM und installieren dann die GPU-Erweiterung.
GPU-VMs und Kubernetes
Beachten Sie vor der Bereitstellung von GPU-VMs auf Ihrem Gerät die folgenden Überlegungen, wenn darauf Kubernetes konfiguriert ist.
Für Geräte mit einer GPU:
Sie erstellen zuerst eine GPU-VM auf Ihrem Gerät und konfigurieren danach Kubernetes: In diesem Szenario werden sowohl die GPU-VM-Erstellung als auch die Kubernetes-Konfiguration erfolgreich abgeschlossen. Kubernetes hat in diesem Fall keinen Zugriff auf die GPU.
Sie konfigurieren zuerst Kubernetes auf Ihrem Gerät und erstellen danach eine GPU-VM: In diesem Szenario beansprucht Kubernetes die GPU auf Ihrem Gerät, sodass die VM-Erstellung zu einem Fehler führt, da keine GPU-Ressourcen verfügbar sind.
Für Geräte mit zwei GPUs:
Sie erstellen zuerst eine GPU-VM auf Ihrem Gerät und konfigurieren danach Kubernetes: In diesem Szenario beansprucht die erstellte GPU-VM eine GPU auf Ihrem Gerät, und die Kubernetes-Konfiguration ist ebenfalls erfolgreich und beansprucht die verbleibende GPU.
Sie erstellen zuerst zwei GPU-VMs auf Ihrem Gerät und konfigurieren danach Kubernetes: In diesem Szenario beanspruchen die beiden GPU-VMs die beiden GPUs auf dem Gerät. Kubernetes wird zwar erfolgreich konfiguriert, kann aber keine GPUs nutzen.
Sie konfigurieren zuerst Kubernetes auf Ihrem Gerät und erstellen danach eine GPU-VM: In diesem Szenario beansprucht Kubernetes beide GPUs auf Ihrem Gerät, sodass die VM-Erstellung zu einem Fehler führt, da keine GPU-Ressourcen mehr verfügbar sind.
Nächste Schritte
- Erfahren Sie, wie Sie GPU-VMs bereitstellen.
- Erfahren Sie, wie Sie die GPU-Erweiterung auf den GPU-VMs installieren, die auf Ihrem Gerät ausgeführt werden.