Настройка кластера гибридных высокопроизводительных вычислений (HPC) с помощью пакета MICROSOFT HPC и вычислительных узлов Azure PaaS по запросу

Используйте пакет Microsoft HPC 2016 с обновлением 1 (или более поздней версии) и Azure, чтобы настроить небольшой гибридный кластер вычислений с высокой производительностью (HPC). Кластер, показанный в этой статье, состоит из локального головного узла пакета HPC и некоторых вычислительных узлов, которые развертываются по запросу в облачной службе Azure. Затем можно запустить задания вычислений в гибридном кластере.

гибридного кластера HPC

В этом руководстве показано один подход, иногда называемый кластером "всплеск в облако", чтобы использовать масштабируемые ресурсы Azure по запросу для выполнения вычислительных приложений.

В этом руководстве предполагается, что предыдущий опыт работы с вычислительными кластерами или пакетом HPC не выполняется. Он предназначен только для быстрого развертывания гибридного вычислительного кластера для демонстрационных целей. Рекомендации и шаги по развертыванию гибридного кластера пакетов HPC в большем масштабе в рабочей среде см. в подробных рекомендаций. Если вы хотите использовать предыдущую версию пакета HPC, см. документации по пакету HPC 2012 R2

Необходимые условия

• подписке Azure. Если у вас нет подписки Azure, вы можете создать бесплатную учетную запись всего за несколько минут.

• локальный компьютер под управлением Windows Server 2012 R2 или Windows Server 2016 . Используйте этот компьютер в качестве головного узла кластера HPC. Если вы еще не работаете под управлением Windows Server, вы можете скачать и установить ознакомительную версию.

  • Компьютер должен быть присоединен к домену Active Directory. В целях тестирования можно настроить головной компьютер узла в качестве контроллера домена. Чтобы добавить роль сервера доменных служб Active Directory и повысить уровень головного узла в качестве контроллера домена, ознакомьтесь с документацией по Windows Server.
  • Для поддержки пакета HPC операционная система должна быть установлена на одном из следующих языков: английский, японский или китайский (упрощенное письмо).
  • Убедитесь, что установлены важные и критически важные обновления.

• пакет HPC 2016 - скачать пакет установки для последней версии бесплатно и скопируйте файлы на головной компьютер узла.

• учетной записи домена. Эта учетная запись должна быть настроена с разрешениями локального администратора на головном узле, чтобы установить пакет HPC.

• TCP-подключение через порт 443 с головного узла в Azure (вне привязка).

Установка пакета HPC на головном узле

Сначала установите пакет Microsoft HPC на локальном компьютере под управлением Windows Server. Этот компьютер становится головным узлом кластера.

1. Войдите на головной узел с помощью учетной записи домена с разрешениями локального администратора.

2. Запустите мастер установки пакета HPC, выполнив Setup.exe из файлов установки пакета HPC.

3. На экране установки пакета HPC пакета HPC 2016 щелкните Создать установку или добавьте новые компоненты в существующийустановки.

   пакета HPC 2016

4. На странице пользовательского соглашения Майкрософт по программному обеспечениюнажмите кнопку Далее.

5. На странице Выбор типа установки щелкните Создать кластер HPC, создав головной узел, а затем нажмите кнопку Далее.

6. Мастер выполняет несколько предварительных тестов. Щелкните Далее на странице правил установки , если все тесты проходят. В противном случае просмотрите предоставленные сведения и внесите необходимые изменения в среду. Затем снова запустите тесты или при необходимости запустите мастер установки снова.

7. На странице конфигурации базы данных HPC убедитесь, что головного узла выбран для всех баз данных HPC, а затем нажмите кнопку Далее.

   конфигурации базы данных

8. Примите выбор по умолчанию на оставшихся страницах мастера. На странице Установка обязательных компонентов щелкните Установить.

   

9. После завершения установки установите флажок Запустить диспетчер кластеров HPC и нажмите кнопку Готово. (Вы запускаете диспетчер кластеров HPC на следующем шаге.)

   

Подготовка подписки Azure

Выполните следующие действия на портале Azure с подпиской Azure. После выполнения этих действий можно развернуть узлы Azure из локального головного узла.

Заметка

Кроме того, запишите идентификатор подписки Azure, который вам потребуется позже. Найдите идентификатор в подписки на портале.

Отправка сертификата управления по умолчанию

Предыдущая версия пакета HPC устанавливает самозаверяющий сертификат на головном узле, который называется сертификатом управления Microsoft HPC Azure по умолчанию, который можно отправить в качестве сертификата управления Azure. Но из пакета HPC 2016 с обновлением 1 этот сертификат не предоставляется по умолчанию, поэтому вам потребуется подготовить самозаверяющий сертификат с командой на головном узле и экспортировать сертификат как tmpfolder\hpccert.cer:

New-SelfSignedCertificate -Subject "CN=HPC Pack Management" -KeySpec KeyExchange -TextExtension @("2.5.29.37={text}1.3.6.1.5.5.7.3.1,1.3.6.1.5.5.7.3.2") -CertStoreLocation cert:\LocalMachine\My -KeyExportPolicy Exportable -NotAfter (Get-Date).AddYears(5) -NotBefore (get-Date).AddDays(-1)

1. С компьютера головного узла импортируйте сертификат из tmpfolder\hpccert.cer в LocalMachine\My. Обратите внимание, что не нравится предыдущая версия пакета HPC, вам больше не нужно импортировать сертификат в LocalMachine\Trusted Root.

2. Войдите на портал Azure .

3. Щелкните подписки>your_subscription_name.

4. Щелкните Сертификаты управления>отправить, перейдите к головному узлу для файла tmpfolder\hpccert.cer. Затем щелкните Отправить.

Сертификат управления HPC по умолчанию по умолчанию отображается в списке сертификатов управления.

Создание облачной службы Azure

Заметка

Чтобы повысить производительность, создайте облачную службу и учетную запись хранения (на следующем шаге) в том же географическом регионе.

1. На портале щелкните облачные службы (классические)>+Добавить.

2. Введите DNS-имя службы, выберите группу ресурсов и расположение, а затем щелкните Создать.

Создание учетной записи хранения Azure

1. На портале щелкните учетные записи хранения (классическая версия)>+Добавить.

2. Введите имя учетной записи и выберите классическую модель развертывания .

3. Выберите группу ресурсов и расположение и оставьте другие параметры по умолчанию. Затем щелкните Создать. Здесь необходимо создать или выбрать группу ресурсов с префиксом Default-Storage-<your_picked_Location> в противном случае служба не сможет найти учетную запись хранения.

Настройка головного узла

Чтобы использовать диспетчер кластеров HPC для развертывания узлов Azure и отправки заданий, сначала выполните некоторые необходимые действия по настройке кластера.

1. На головном узле запустите диспетчер кластеров HPC. Если появится диалоговое окно выбор головного узла, щелкните локальный компьютер. Появится список развертывания развертывания.

2. В разделе Обязательные задачи развертываниящелкните Настроитьсети.

   

3. В мастере настройки сети выберите Все узлы только в корпоративной сети (топология 5). Эта конфигурация сети является самой простой для демонстрационных целей.

   топология

4. Нажмите кнопку Далее, чтобы принять значения по умолчанию на оставшихся страницах мастера. Затем на вкладке "Проверка " щелкните Настроить, чтобы завершить настройку сети.

5. В спискеразвертывания щелкните Укажите учетные данные установки.

6. В диалоговом окне Учетные данные установки введите учетные данные учетной записи домена, используемой для установки пакета HPC. Затем нажмите кнопку ОК.

   

7. Вразвертывания развертывания щелкните Настроить именование новых узлов.

8. В диалоговом окне Указание ряда именования узлов примите ряд именования по умолчанию и нажмите кнопку ОК. Выполните этот шаг, даже если добавленные в этом руководстве узлы Azure автоматически называются.

   именования узлов

9. В спискеразвертывания щелкните Создать шаблон узла. Далее в руководстве вы используете шаблон узла для добавления узлов Azure в кластер.

10. В мастере создания шаблона узла выполните следующие действия.

    a. На странице Выбор типа шаблона узла щелкните шаблон узла Windows Azure, а затем нажмите кнопку Далее.

    шаблона узла

    b. Нажмите кнопку Далее, чтобы принять имя шаблона по умолчанию.

    c. На странице Укажите сведения о подписке введите идентификатор подписки Azure (доступный в вашей учетной записи Azure). Затем в сертификате управлениянайдите microsoft HPC Azure Management по умолчанию. Нажмите кнопку Далее.

    шаблона узла

    d. На странице Предоставление сведений о службе выберите облачную службу и учетную запись хранения, созданную на предыдущем шаге. Затем нажмите кнопку Далее.

    шаблона узла

    e. Нажмите кнопку Далее, чтобы принять значения по умолчанию на Указать узлы прокси-сервера, указать рабочую роль и указать скрипт запуска страниц мастера. Обратите внимание, что этот скрипт будет выполняться во время подготовки, прежде чем узел будет готов как offline. Для настройки поведения по умолчанию существует два реестра. Например, если Microsoft.Hpc.Azure.AzureStartupTaskFailureEnable раздела реестра администратора 1, развертывание будет ожидать завершения выполнения скрипта запуска, прежде чем задать доступный узел для заданий: HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\HPC Name:Microsoft.Hpc.Azure.AzureStartupTaskFailureEnable Type:REG_DWORD; (default is 0) и HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\HPC Name:Microsoft.Hpc.Azure.AzureStartupTaskTimeoutSec Type:REG_DWORD; (default is 1800)

    f. Щелкните Далее, чтобы принять значения по умолчанию на странице Настройка виртуальной сети Microsoft Azure. Если вы используете VPN Azure или экспресс-маршрут с принудительным туннелированием, необходимо использовать внутреннюю балансировку нагрузки Azure, необходимо только выбрать один допустимый и бесплатный статический IP-адрес из подсети.

    шаблона узла

    g. Щелкните Далее, чтобы предоставить учетные данные на странице Настройка учетных данных удаленного рабочего стола. Нажмите кнопку Далее, чтобы настроить политику доступности. Если вы хотите включить автоматическое увеличение размера позже, просто выберите Start and stop nodes manually. Затем на вкладке Проверка щелкните Создать, чтобы создать шаблон узла.

    Заметка

    По умолчанию шаблон узла Azure включает параметры для запуска (подготовки) и остановки узлов вручную с помощью диспетчера кластеров HPC, который позже можно настроить автоматического увеличения. При необходимости можно настроить расписание для запуска и остановки узлов Azure автоматически.

Добавление узлов Azure в кластер

Теперь используйте шаблон узла для добавления узлов Azure в кластер. Добавление узлов в кластер хранит сведения о конфигурации, чтобы вы могли запускать (подготавливать) их в любое время в облачной службе. Подписка взимается только за узлы Azure после запуска экземпляров в облачной службе.

Выполните следующие действия, чтобы добавить два небольших узла.

1. В диспетчере кластеров HPC щелкните управления узлами ( управления ресурсами в текущих версиях пакета HPC) добавить узел.

   

2. В мастере добавления узлов на странице выберите метод развертывания щелкните Добавить узлы Windows Azure, а затем нажмите кнопку Далее.

   узла Azure

3. На странице Указание новых узлов выберите созданный ранее шаблон узла Azure (по умолчанию шаблон AzureNode по умолчанию). Затем укажите 2 узлах размера Small, а затем нажмите кнопку Далее.

   

4. На странице Завершение работы мастера добавления узлов нажмите кнопку Готово.

   Два узла Azure с именем AzureCN-0001 и AzureCN-0002теперь отображаются в диспетчере кластеров HPC. Оба находятся в состоянии не развернутых.

   

Запуск узлов Azure

Если вы хотите использовать ресурсы кластера в Azure, используйте диспетчер кластеров HPC для запуска (подготовки) узлов Azure и их подключения к сети.

1. В диспетчере кластеров HPC щелкните управление узлами (называется управление ресурсами в текущих версиях пакета HPC) и выберите узлы Azure.

2. Нажмите кнопку Пуск, а затем нажмите кнопку ОК.

   

   Узлы переходют к состоянию подготовки . Просмотрите журнал подготовки для отслеживания хода выполнения подготовки.

   

3. Через несколько минут узлы Azure завершают подготовку и находятся в состоянии автономного . В этом состоянии экземпляры ролей выполняются, но пока не могут принимать задания кластера.

4. Чтобы убедиться, что экземпляры ролей выполняются, на портале Azure щелкните облачные службы (классические)>your_cloud_service_name.

   В службе должно появиться два экземпляры hpcWorkerRole (узлы). Пакет HPC также автоматически развертывает два экземпляра HpcProxy (средний размер) для обработки связи между головным узлом и Azure.

   

5. Чтобы перенести узлы Azure в режим "в сети" для запуска заданий кластера, выберите узлы, щелкните правой кнопкой мыши и щелкните "Перенести в Интернет".

   

   Диспетчер кластеров HPC указывает, что узлы находятся в состоянии Online.

Выполнение команды в кластере

Чтобы проверить установку, используйте команду пакета HPC clusrun для выполнения команды или приложения на одном или нескольких узлах кластера. В качестве простого примера используйте clusrun для получения IP-конфигурации узлов Azure.

1. На головном узле откройте командную строку от имени администратора.

2. Введите следующую команду:

   clusrun /nodes:azurecn* ipconfig

3. При появлении запроса введите пароль администратора кластера. Вы должны увидеть выходные данные команды, аналогичные приведенным ниже.

   

Запуск тестового задания

Теперь отправьте тестовое задание, которое выполняется в гибридном кластере. В этом примере выполняется простое задание очистки параметров (тип встроенного параллельного вычисления). В этом примере выполняются подзадачи, которые добавляют целое число к себе с помощью команды /a набора . Все узлы в кластере способствуют завершению подзадач целых чисел от 1 до 100.

1. В диспетчере кластеров HPC щелкните управление заданиями>новый параметрический сверток.

   

2. В диалоговом окне задания новой параметрики в командной строке введите (перезапись отображаемой командной строки по умолчанию). Оставьте значения по умолчанию для остальных параметров, а затем нажмите кнопку Отправить, чтобы отправить задание.

   параметрической очистки

3. По завершении задания дважды щелкните задание задание "Моя очистка".

4. Щелкните Просмотреть задачи, а затем щелкните подзадаку, чтобы просмотреть вычисляемые выходные данные этой подзадаки.

   результатов задачи

5. Чтобы узнать, какой узел выполнил вычисление для этой подзадаки, щелкните Выделенные узлы. (В кластере может отображаться другое имя узла.)

   результатов задачи

Остановка узлов Azure

После проверки кластера остановите узлы Azure, чтобы избежать ненужных расходов на учетную запись. Этот шаг останавливает облачную службу и удаляет экземпляры ролей Azure.

1. В диспетчере кластеров HPC в управления узлами (называемой управления ресурсами в предыдущих версиях пакета HPC) выберите оба узла Azure. Затем нажмите кнопку Остановить.

   

2. В диалоговом окне Остановить узлы Windows Azure щелкните Остановить.

3. Узлы переходы к состоянию остановки. Через несколько минут диспетчер кластеров HPC показывает, что узлы не развернуты.

   

4. Чтобы убедиться, что экземпляры ролей больше не работают в Azure, на портале Azure щелкните облачные службы (классические)>your_cloud_service_name. Экземпляры не развертываются в рабочей среде.

   В этом руководстве выполняется руководство.

Включение автоматического сжатия для узлов рабочей роли Azure

Если вы не хотите запускать и останавливать узлы рабочей роли Azure вручную, вы можете включить автоматическое сжатие для запуска узлов автоматически при наличии заданий в очереди и автоматической остановке узлов при простое.

Включение свойства AutoGrowShrink

Set-HpcClusterProperty –EnableGrowShrink 1

После включения этого свойства можно снова отправить задание и проверить, запускаются ли узлы рабочей роли Azure автоматически. Откройте диспетчер кластеров HPC и перейдите к области управления ресурсами, выберите операцию > представлении AzureOperations, вы увидите все операции сжатия azure. Дополнительные сведения также см. в автоматического сжатия hpcpack.

Дальнейшие действия

• Узнайте, hpcpack.exe и hpcsync.exe для перемещения данных на облачные узлы.
• Сведения о настройке гибридного развертывания кластера пакетов HPC в большем масштабе см. в статье Развертывание экземпляров рабочей роли Azure с помощью пакета MICROSOFT HPC.
• Другие способы создания кластера пакетов HPC в Azure, включая использование шаблонов Azure Resource Manager, см. в статье Начало работы с кластером пакетов HPC в Azure.