你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

OpenPBS

使用 CycleCloud 连接 PBS

CycleCloud 通过名为 azpbs 的可安装代理管理 OpenPBS 群集。 此代理连接到 CycleCloud 以读取群集和 VM 配置，还与 OpenPBS 集成，以有效处理作业和主机信息。 文件中的所有azpbs配置通常/opt/cycle/pbspro/autoscale.json都autoscale.json位于文件中。

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

重要文件

每次 azpbs 调用 PBS 配置时，代理都会分析 PBS 配置 - 作业、队列、资源。 该命令的 stderr 和 stdout 以及日志文件中提供了信息，这两种信息都位于可配置级别。 (具有参数的所有 PBS 管理命令 qcmd 也记录到文件中) 。

所有这些文件都可以在安装代理的 /opt/cycle/pbspro/ 目录中找到。

文件	位置	描述
自动缩放配置	autoscale.json	自动缩放、资源映射、CycleCloud 访问信息的配置
自动缩放日志	autoscale.log	代理主线程日志记录，包括 CycleCloud 主机管理
需求日志	demand.log	资源匹配的详细日志
qcmd 跟踪日志	qcmd.log	记录代理 qcmd 调用
日志记录配置	logging.conf	日志记录掩码和文件位置的配置

定义 OpenPBS 资源

此项目允许通过 cyclecloud-pbspro (azpbs) 项目将 OpenPBS 资源与 Azure VM 资源关联。 此资源关系在 . 中 autoscale.json定义。

使用我们随附的群集模板定义的默认资源为

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

命名 mem 的 OpenPBS 资源等同于名为 node.memory节点属性，该属性是任何虚拟机的总内存。 此配置允许 azpbs 处理资源请求，例如 -l mem=4gb ，通过将作业资源要求的值与节点资源进行比较。

请注意，磁盘当前已硬编码为 size::20g。 下面是处理 VM 大小特定磁盘大小的示例

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

自动缩放和缩放集

CycleCloud 在 OpenPBS 群集中以不同的方式处理跨作业和串行作业。 跨作业将降落在属于同一放置组的节点上。 放置组具有特定的平台含义 (SinglePlacementGroup=true) VirtualMachineScaleSet，CC 将为每个跨跨节点集托管命名放置组。 使用此放置组名称的 PBS 资源 group_id 。

队列 hpc 追加与使用本机队列默认值等效 -l place=scatter:group=group_id 的队列。

安装 CycleCloud OpenPBS 代理 azpbs

OpenPBS CycleCloud 群集将管理服务器节点上代理的安装和配置。 准备包括设置 PBS 资源、队列和挂钩。 还可以在 CycleCloud 外部完成脚本安装。

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud 支持跨计划程序的标准自动停止属性集：

属性	描述
cyclecloud.cluster.autoscale.stop_enabled	是否在此节点上启用自动停止？ [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	节点在完成作业后，在缩减作业之前， (以秒为单位的时间量) 。
cyclecloud.cluster.autoscale.idle_time_before_jobs	节点在缩减作业之前，) 节点处于空闲状态的时间 (以秒为单位。

注意

CycleCloud 不支持使用 Open PBS 的突发配置。

注意

尽管 Windows 是正式支持的开放 PBS 平台，但 CycleCloud 目前不支持在 Windows 上运行 Open PBS。