Управление gpu с помощью секционирования (предварительная версия)

Статья
11/23/2024

Область применения: Локальная версия Azure, версия 23H2

В этой статье описывается, как управлять GPU-P с помощью виртуальных машин Arc для локальной среды Azure. Сведения об использовании управления GPU-P в AKS, включенном Azure Arc, см. в статье "Использование GPU для ресурсоемких рабочих нагрузок".

Секционирование GPU (GPU-P) позволяет совместно использовать графический модуль обработки (GPU) с несколькими рабочими нагрузками, разделив GPU на выделенные дробные секции.

Внимание

Эта функция сейчас доступна в режиме предварительной версии. Юридические условия, применимые к функциям Azure, которые находятся в состоянии бета-версии, предварительной версии или иным образом еще не выпущены в общедоступной версии, см. на странице Дополнительные условия использования предварительных версий в Microsoft Azure.

Ограничения

При использовании функции GPU-P следует учитывать следующие ограничения:

Секционирование GPU не поддерживается, если конфигурация не является однородной. Ниже приведены некоторые примеры неподдерживаемых конфигураций:
- Сочетание gpu от разных поставщиков в одной системе.
- Использование различных моделей GPU из разных семейств продуктов от одного поставщика в одной системе.
Вы не можете назначить физический GPU как дискретное назначение устройств (DDA) и как секционируемый GPU (GPU-P). Его можно назначить как DDA или как секционируемый GPU, но не оба.
Для виртуальной машины можно назначить только одну секцию GPU.
Секции автоматически назначены виртуальным машинам. Для определенной виртуальной машины нельзя выбрать определенную секцию.
В настоящее время секционирование GPU в Локальной среде Azure не поддерживает динамическую миграцию виртуальных машин. Но виртуальные машины можно автоматически перезапустить и поместить, где доступны ресурсы GPU, если произошел сбой.
Вы можете секционирование GPU с помощью интерфейс командной строки Azure (CLI). Рекомендуется использовать Azure CLI для настройки и назначения секций GPU. Необходимо вручную убедиться, что однородная конфигурация поддерживается для GPU на всех компьютерах в вашей системе.

Необходимые компоненты

Ознакомьтесь с разделом "Подготовка gpu для локальной среды Azure" для требований и подготовки виртуальных машин Azure Local и Arc, а также для обеспечения подготовки и секционирования gpu.

Подключение GPU во время создания виртуальной машины Arc

Выполните действия, описанные в статье "Создание виртуальных машин Arc на локальном компьютере Azure" и используйте дополнительные сведения о профиле оборудования для добавления GPU в процесс создания. Выполните следующее:

az stack-hci-vm create --name $vmName --resource-group $resource_group --admin-username $userName --admin-password $password --computer-name $computerName --image $imageName --location $location --authentication-type all --nics $nicName --custom-location $customLocationID --hardware-profile memory-mb="8192" processors="4" --storage-path-id $storagePathId --gpus GpuP

Дополнительные сведения см. в статье az stack-hci-vm create.

Подключение GPU после создания виртуальной машины Arc

Чтобы подключить GPU, используйте следующую команду CLI:

az stack-hci-vm stop --name your_VM_name --resource-group your_resource_group

Размер секции можно указать в команде, как показано ниже. Размеры секций совпадают с minPartitionVRAM размерами, найденными в Get-VMHostPartitionableGpu Hyper-V. Вы также можете использовать команду без указания размера секции, как показано в приведенном выше примере.

az stack-hci-vm gpu attach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

После подключения раздела GPU выходные данные будут отображать полные сведения о виртуальной машине. Вы можете подтвердить присоединение gpu, просмотрив раздел профиля virtualMachineGPUs оборудования. Выходные данные будут выглядеть следующим образом:

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[
			{
				"assignmentType": "GpuP",
				"gpuName": null,
				"partitionSizeMb": 3648
			}
         ],

Дополнительные сведения о команде подключения GPU см. в статье az stack-hci-vm gpu.

Отключение GPU

Чтобы отключить GPU, используйте следующую команду CLI:

az stack-hci-vm gpu detach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

После отключения секции GPU выходные данные будут отображать полные сведения о виртуальной машине. Вы можете подтвердить, что графические процессоры были отключены, просмотрив профиль virtualMachineGPUsоборудования. Выходные данные будут выглядеть следующим образом:

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[],

Дополнительные сведения о команде подключения GPU см. в статье az stack-hci-vm gpu.

Следующие шаги

Управление графическими процессорами с помощью дискретного назначения устройств

Поделиться через