OpenPBS

Подключение PBS с помощью CycleCloud

CycleCloud управляет кластерами OpenPBS с помощью устанавливаемого агента azpbs. Этот агент подключается к CycleCloud для чтения конфигураций кластера и виртуальных машин, а также интегрируется с OpenPBS для эффективной обработки сведений о задании и узле. Все azpbs конфигурации находятся в autoscale.json файле, как правило /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Важные файлы

Агент azpbs анализирует конфигурацию PBS при каждом вызове — задания, очереди, ресурсы. Сведения предоставляются в stderr и stdout команды, а также в файл журнала на настраиваемых уровнях. Все команды управления PBS (qcmd) с аргументами также записываются в файл.

Все эти файлы можно найти в каталоге /opt/cycle/pbspro/ , где установлен агент.

Файл	Расположение	Описание
Конфигурация автомасштабирования	autoscale.json	Настройка автомасштабирования, карты ресурсов, сведений о доступе CycleCloud
Журнал автомасштабирования	autoscale.log	Ведение журнала основного потока агента, включая управление узлом CycleCloud
Журнал запросов	demand.log	Подробный журнал для сопоставления ресурсов
Журнал трассировки qcmd	qcmd.log	Ведение журнала вызовов агента qcmd
Конфигурация ведения журнала	logging.conf	Конфигурации для маски ведения журнала и расположений файлов

Определение ресурсов OpenPBS

Этот проект обеспечивает общую связь ресурсов OpenPBS с ресурсами виртуальной машины Azure с помощью проекта cyclecloud-pbspro (azpbs). Эта связь ресурсов, определенная в .autoscale.json

Ресурсы по умолчанию, определенные с помощью шаблона кластера, с которым мы поставляемы

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

Именованный mem ресурс OpenPBS приравнивается к атрибуту узла с именем node.memory, который представляет собой общую память любой виртуальной машины. Эта конфигурация позволяет azpbs обработать запрос ресурса, -l mem=4gb например путем сравнения значения требований к ресурсу задания с ресурсами узла.

Обратите внимание, что диск в настоящее время жестко закодирован.size::20g Ниже приведен пример обработки размера конкретного диска виртуальной машины.

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Автомасштабирование и масштабируемые наборы

CycleCloud обрабатывает последовательное и последовательное задания в кластерах OpenPBS по-разному. Охватывающие задания будут размещаться на узлах, входящих в одну группу размещения. Группа размещения имеет определенное значение платформы (VirtualMachineScaleSet с SinglePlacementGroup=true), а CC будет управлять именованной группой размещения для каждого набора развернутых узлов. Используйте ресурс group_id PBS для этого имени группы размещения.

Очередь hpc добавляет эквивалент -l place=scatter:group=group_id , используя собственные очереди по умолчанию.

Установка агента CycleCloud OpenPBS azpbs

Кластер OpenPBS CycleCloud будет управлять установкой и конфигурацией агента на узле сервера. Подготовка включает настройку ресурсов, очередей и перехватчиков PBS. Установка с помощью скриптов также может выполняться за пределами CycleCloud.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud поддерживает стандартный набор атрибутов автостопом в планировщиках:

Атрибут	Описание
cyclecloud.cluster.autoscale.stop_enabled	Включена ли автостопом на этом узле? [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Время (в секундах) для узла, которое будет простаивать после завершения заданий, прежде чем оно будет уменьшено.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Время (в секундах) для узла, которое будет простаивать перед выполнением заданий, прежде чем оно будет уменьшено.

Примечание

CycleCloud не поддерживает конфигурацию ускорения с помощью Open PBS.

Примечание

Несмотря на то, что Windows является официально поддерживаемой платформой Open PBS, CycleCloud в настоящее время не поддерживает запуск Open PBS в Windows.