Gestire GPU usando il partizionamento (anteprima)

Articolo
11/23/2024

Si applica a: Azure Local 2311.2 e versioni successive

Questo articolo descrive come gestire GPU-P con macchine virtuali Arc per Azure Locale. Per l'uso della gestione GPU-P nel servizio Azure Kubernetes abilitato da Azure Arc, vedere Usare GPU per carichi di lavoro a elevato utilizzo di calcolo.

Il partizionamento GPU (GPU-P) consente di condividere un'unità di elaborazione grafica (GPU) con più carichi di lavoro suddividendo la GPU in partizioni frazionarie dedicate.

Importante

La funzionalità è attualmente disponibile in ANTEPRIMA. Vedere le condizioni per l'utilizzo supplementari per le anteprime di Microsoft Azure per termini legali aggiuntivi che si applicano a funzionalità di Azure in versione beta, in anteprima o in altro modo non ancora disponibili a livello generale.

Limiti

Quando si usa la funzionalità GPU-P, prendere in considerazione le limitazioni seguenti:

Il partizionamento GPU non è supportato se la configurazione non è omogenea. Di seguito sono riportati alcuni esempi di configurazioni non supportate:
- Combinazione di GPU da fornitori diversi nello stesso sistema.
- Uso di modelli GPU diversi da famiglie di prodotti diversi dello stesso fornitore nello stesso sistema.
Non è possibile assegnare una GPU fisica come assegnazione di dispositivi discreti (DDA) e come GPU partizionabile (GPU-P). È possibile assegnarlo come DDA o come GPU partizionabile, ma non entrambi.
È possibile assegnare una sola partizione GPU a una macchina virtuale.
Le partizioni vengono assegnate automaticamente alle VM. Non è possibile scegliere una partizione specifica per una macchina virtuale specifica.
Attualmente, il partizionamento GPU in Locale di Azure non supporta la migrazione in tempo reale delle macchine virtuali. Tuttavia, le macchine virtuali possono essere riavviate automaticamente e collocate in posizioni in cui le risorse GPU sono disponibili in caso di errore.
È possibile partizionare la GPU usando interfaccia della riga di comando di Azure (CLI). È consigliabile usare l'interfaccia della riga di comando di Azure per configurare e assegnare partizioni GPU. È necessario assicurarsi manualmente che la configurazione omogenea venga mantenuta per le GPU in tutti i computer del sistema.

Prerequisiti

Per i requisiti e per preparare le macchine virtuali locali e Arc di Azure, vedere Preparare le GPU per i requisiti e per assicurarsi che le GPU siano preparate e partizionate.See Prepare GPU for Azure Local for requirements and to prepare your Azure Local and Arc VMS, and to ensure that your GPU are prepared and partitioned.

Collegare una GPU durante la creazione di macchine virtuali Arc

Seguire i passaggi descritti in Creare macchine virtuali Arc in Locale di Azure e usare i dettagli aggiuntivi del profilo hardware per aggiungere GPU al processo di creazione. Esegui le operazioni seguenti:

az stack-hci-vm create --name $vmName --resource-group $resource_group --admin-username $userName --admin-password $password --computer-name $computerName --image $imageName --location $location --authentication-type all --nics $nicName --custom-location $customLocationID --hardware-profile memory-mb="8192" processors="4" --storage-path-id $storagePathId --gpus GpuP

Per altre informazioni, vedere az stack-hci-vm create.

Collegare una GPU dopo la creazione di una macchina virtuale Arc

Usare il comando dell'interfaccia della riga di comando seguente per collegare la GPU:

az stack-hci-vm stop --name your_VM_name --resource-group your_resource_group

È possibile specificare le dimensioni della partizione nel comando, come illustrato di seguito. Le dimensioni delle minPartitionVRAM partizioni sono le stesse disponibili in in Get-VMHostPartitionableGpu Hyper-V. È anche possibile usare il comando senza specificare le dimensioni della partizione, come illustrato nell'esempio precedente.

az stack-hci-vm gpu attach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

Dopo aver collegato la partizione GPU, l'output mostrerà i dettagli completi della macchina virtuale. È possibile verificare che le GPU siano state collegate esaminando la sezione del profilo virtualMachineGPUs hardware. L'output sarà simile al seguente:

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[
			{
				"assignmentType": "GpuP",
				"gpuName": null,
				"partitionSizeMb": 3648
			}
         ],

Per altre informazioni sul comando gpu attach, vedere az stack-hci-vm gpu.

Scollegare una GPU

Usare il comando dell'interfaccia della riga di comando seguente per scollegare la GPU:

az stack-hci-vm gpu detach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

Dopo aver scollegato la partizione GPU, l'output mostrerà i dettagli completi della macchina virtuale. È possibile verificare che le GPU siano state scollegate esaminando il profilo virtualMachineGPUshardware . L'output sarà simile al seguente:

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[],

Per altre informazioni sul comando gpu attach, vedere az stack-hci-vm gpu.

Passaggi successivi

Gestire LE GPU usando l'assegnazione di dispositivi discreti

Condividi tramite