OpenPBS

CycleCloud ile PBS'yi bağlama

CycleCloud , OpenPBS kümelerini adlı azpbsyüklenebilir bir aracı aracılığıyla yönetir. Bu aracı, küme ve VM yapılandırmalarını okumak için CycleCloud'a bağlanır ve ayrıca işi ve konak bilgilerini etkili bir şekilde işlemek için OpenPBS ile tümleşir. Tüm azpbs yapılandırmalar normalde dosyasında /opt/cycle/pbspro/autoscale.jsonbulunurautoscale.json.

  "password": "260D39rWX13X",
  "url": "https://cyclecloud1.contoso.com",
  "username": "cyclecloud_api_user",
  "logging": {
    "config_file": "/opt/cycle/pbspro/logging.conf"
  },
  "cluster_name": "mechanical_grid",

Önemli Dosyalar

Aracı azpbs her çağrıldığında PBS yapılandırmasını ayrıştırıyor: işler, kuyruklar, kaynaklar. Bilgiler, komutun stderr ve stdout'un yanı sıra her ikisi de yapılandırılabilir düzeylerde bir günlük dosyasına sağlanır. Bağımsız değişkenler içeren tüm PBS yönetim komutları (qcmd) dosyaya da kaydedilir.

Tüm bu dosyalar aracının yüklü olduğu /opt/cycle/pbspro/ dizininde bulunabilir.

Dosya	Konum	Description
Otomatik Ölçeklendirme Yapılandırması	autoscale.json	Otomatik Ölçeklendirme, Kaynak Haritası, CycleCloud erişim bilgileri için yapılandırma
Otomatik Ölçeklendirme Günlüğü	autoscale.log	CycleCloud konak yönetimi de dahil olmak üzere aracı ana iş parçacığı günlüğü
Talep Günlüğü	demand.log	Kaynak eşleştirme için ayrıntılı günlük
qcmd İzleme Günlüğü	qcmd.log	Aracı qcmd çağrılarını günlüğe kaydetme
Günlük Yapılandırması	logging.conf	Günlük maskeleri ve dosya konumları için yapılandırmalar

OpenPBS Kaynaklarını Tanımlama

Bu proje, cyclecloud-pbspro (azpbs) projesi aracılığıyla OpenPBS kaynaklarının Azure VM kaynaklarıyla genel olarak ilişkilendirilmesini sağlar. içinde tanımlanan autoscale.jsonbu kaynak ilişkisi.

Birlikte gönderdiğimiz küme şablonuyla tanımlanan varsayılan kaynaklar şunlardır:

{"default_resources": [
   {
      "select": {},
      "name": "ncpus",
      "value": "node.vcpu_count"
   },
   {
      "select": {},
      "name": "group_id",
      "value": "node.placement_group"
   },
   {
      "select": {},
      "name": "host",
      "value": "node.hostname"
   },
   {
      "select": {},
      "name": "mem",
      "value": "node.memory"
   },
   {
      "select": {},
      "name": "vm_size",
      "value": "node.vm_size"
   },
   {
      "select": {},
      "name": "disk",
      "value": "size::20g"
   }]
}

adlı mem OpenPBS kaynağı, herhangi bir sanal makinenin toplam belleği olan adlı node.memorydüğüm özniteliğine eşit hale getirilir. Bu yapılandırma, iş kaynağı gereksinimlerinin değerini düğüm kaynaklarıyla karşılaştırarak gibi -l mem=4gb bir kaynak isteğini işlemeye olanak tanırazpbs.

Diskin şu anda olarak size::20gsabit kodlandığını unutmayın. Vm Boyutuna özgü disk boyutunu işleme örneği aşağıda verilmiştir

   {
      "select": {"node.vm_size": "Standard_F2"},
      "name": "disk",
      "value": "size::20g"
   },
   {
      "select": {"node.vm_size": "Standard_H44rs"},
      "name": "disk",
      "value": "size::2t"
   }

Otomatik Ölçeklendirme ve Ölçek Kümeleri

CycleCloud, OpenPBS kümelerinde yayılan ve seri işleri farklı şekilde işler. Yayılan işler aynı yerleştirme grubunun parçası olan düğümlere iner. Yerleştirme grubunun belirli bir platform anlamı vardır (SinglePlacementGroup=true ile VirtualMachineScaleSet) ve CC, her yayılmış düğüm kümesi için adlandırılmış bir yerleştirme grubu yönetecektir. Bu yerleştirme grubu adı için PBS kaynağını group_id kullanın.

Kuyruk, hpc yerel kuyruk varsayılanlarını kullanarak eşdeğerini -l place=scatter:group=group_id ekler.

CycleCloud OpenPBS Aracısını Yükleme azpbs

OpenPBS CycleCloud kümesi, sunucu düğümünde aracının yüklemesini ve yapılandırmasını yönetir. Hazırlık PBS kaynaklarını, kuyruklarını ve kancalarını ayarlamayı içerir. Betikli yükleme, CycleCloud dışında da yapılabilir.

# Prerequisite: python3, 3.6 or newer, must be installed and in the PATH
wget https://github.com/Azure/cyclecloud-pbspro/releases/download/2.0.5/cyclecloud-pbspro-pkg-2.0.5.tar.gz
tar xzf cyclecloud-pbspro-pkg-2.0.5.tar.gz
cd cyclecloud-pbspro

# Optional, but recommended. Adds relevant resources and enables strict placement
./initialize_pbs.sh

# Optional. Sets up workq as a colocated, MPI focused queue and creates htcq for non-MPI workloads.
./initialize_default_queues.sh

# Creates the azpbs autoscaler
./install.sh  --venv /opt/cycle/pbspro/venv

# Otherwise insert your username, password, url, and cluster name here.
./generate_autoscale_json.sh --install-dir /opt/cycle/pbspro \
                             --username user \
                             --password password \
                             --url https://fqdn:port \
                             --cluster-name cluster_name

azpbs validate

CycleCloud, zamanlayıcılar arasında standart bir otomatik durdurma öznitelikleri kümesini destekler:

Öznitelik	Açıklama
cyclecloud.cluster.autoscale.stop_enabled	Bu düğümde otomatik durdurma etkinleştirildi mi? [true/false]
cyclecloud.cluster.autoscale.idle_time_after_jobs	Bir düğümün ölçeği azaltılmadan önce işleri tamamladıktan sonra boşta oturma süresi (saniye olarak).
cyclecloud.cluster.autoscale.idle_time_before_jobs	Bir düğümün ölçeği azaltılmadan önce işleri tamamlamadan önce boşta durma süresi (saniye olarak).

Not

CycleCloud, Açık PBS ile seri yapılandırmayı desteklemez.

Not

Windows resmi olarak desteklenen bir Open PBS platformu olsa da CycleCloud şu anda Windows'ta Açık PBS çalıştırmayı desteklemez.