OpenPBS

Verbinden von PBS mit CycleCloud

CycleCloud verwaltet OpenPBS-Cluster über einen installierbaren Agent namens azpbs. Dieser Agent stellt eine Verbindung mit CycleCloud her, um Cluster- und VM-Konfigurationen zu lesen und auch in OpenPBS zu integrieren, um die Auftrags- und Hostinformationen effektiv zu verarbeiten. Alle azpbs Konfigurationen werden in der autoscale.json Datei gefunden, normalerweise /opt/cycle/pbspro/autoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Wichtige Dateien

Der azpbs Agent analysiert die PBS-Konfiguration jedes Mal, wenn er aufgerufen wird – Aufträge, Warteschlangen, Ressourcen. Informationen werden in stderr und stdout des Befehls sowie in einer Protokolldatei bereitgestellt, sowohl auf konfigurierbaren Ebenen. Alle PBS-Verwaltungsbefehle (qcmd) mit Argumenten werden ebenfalls in der Datei protokolliert.

Alle diese Dateien finden Sie im Verzeichnis "/opt/cycle/pbspro/ ", in dem der Agent installiert ist.

Datei	Standort	BESCHREIBUNG
Autoscale-Konfiguration	autoscale.json	Konfiguration für Autoscale, Ressourcenzuordnung, CycleCloud-Zugriffsinformationen
Autoscale-Protokoll	autoscale.log	Agent-Hauptthreadprotokollierung einschließlich CycleCloud-Hostverwaltung
Anforderungsprotokoll	demand.log	Detailliertes Protokoll für den Ressourcenabgleich
qcmd Trace Log	qcmd.log	Protokollieren der Agentaufrufe qcmd
Protokollierungskonfiguration	logging.conf	Konfigurationen für Protokollierungsmasken und Dateispeicherorte

Definieren von OpenPBS-Ressourcen

Dieses Projekt ermöglicht eine allgemeine Zuordnung von OpenPBS-Ressourcen mit Azure VM-Ressourcen über das Cyclecloud-pbspro (azpbs)-Projekt. Diese ressourcenbeziehung definiert in autoscale.json.

Die standardmäßigen Ressourcen, die mit der von uns gelieferten Clustervorlage definiert sind, sind

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

Die OpenPBS-Ressource mit dem Namen mem "OpenPBS" wird mit einem Knotenattribut namens node.memory", das den Gesamtspeicher eines virtuellen Computers darstellt. Mit dieser Konfiguration kann azpbs eine Ressourcenanforderung verarbeitet werden, z -l mem=4gb . B. indem der Wert der Auftragsressourcenanforderungen mit Knotenressourcen verglichen wird.

Beachten Sie, dass der Datenträger derzeit hartcodiert size::20gist. Nachfolgend sehen Sie ein Beispiel für die Behandlung der VM-Größe bestimmter Datenträgergröße

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Automatische Skalierung und Skalierung

CycleCloud behandelt spannende und serielle Aufträge unterschiedlich in OpenPBS-Clustern. Der Bereich von Aufträgen wird auf Knoten landen, die Teil derselben Platzierungsgruppe sind. Die Platzierungsgruppe hat eine bestimmte Plattform-Bedeutung (VirtualMachineScaleSet mit SinglePlacementGroup=true), und CC verwaltet eine benannte Platzierungsgruppe für jeden übergreifenden Knotensatz. Verwenden Sie die PBS-Ressource group_id für diesen Platzierungsgruppennamen.

Die hpc Warteschlange fügt das Äquivalent -l place=scatter:group=group_id an, indem systemeigene Warteschlangenstandardwerte verwendet werden.

Installieren des CycleCloud OpenPBS-Agents azpbs

Der OpenPBS CycleCloud-Cluster verwaltet die Installation und Konfiguration des Agents auf dem Serverknoten. Die Vorbereitung umfasst das Festlegen von PBS-Ressourcen, Warteschlangen und Hooks. Eine skriptbasierte Installation kann auch außerhalb von CycleCloud erfolgen.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud unterstützt einen Standardsatz von Autotopattributen in allen Zeitplanern:

attribute	BESCHREIBUNG
cyclecloud.cluster.autoscale.stop_enabled	Ist autotop auf diesem Knoten aktiviert? [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Die Zeit (in Sekunden) für einen Knoten, der nach Abschluss von Aufträgen im Leerlauf sitzen soll, bevor er nach unten skaliert wird.
cyclecloud.cluster.autoscale.idle_time_before_jobs	Die Zeit (in Sekunden) für einen Knoten, der sich im Leerlauf befinden soll, bevor aufträge abgeschlossen werden, bevor er verkleinert wird.

Hinweis

CycleCloud unterstützt die platzende Konfiguration mit Open PBS nicht.

Hinweis

Obwohl Windows eine offiziell unterstützte Open PBS-Plattform ist, unterstützt CycleCloud derzeit keine Open PBS unter Windows.