Använda RDMA- eller GPU-instanser i Batch-pooler

Om du vill köra vissa Batch-jobb kan du dra nytta av Azure VM-storlekar som är utformade för storskalig beräkning. Exempel:

• Om du vill köra MPI-arbetsbelastningarmed flera instanser väljer du H-serien eller andra storlekar som har ett nätverksgränssnitt för direktåtkomst till fjärrminne (RDMA). Dessa storlekar ansluter till ett InfiniBand-nätverk för kommunikation mellan noder, vilket kan påskynda MPI-program.

• För CUDA-program väljer du N-seriens storlekar som innehåller NVIDIA Tesla GPU-kort (Graphics Processing Unit).

Den här artikeln innehåller vägledning och exempel för att använda några av Azures specialiserade storlekar i Batch-pooler. Specifikationer och bakgrund finns i:

• Storlekar på virtuella datorer med höga prestanda (Linux , Windows)

• GPU-aktiverade VM-storlekar (Linux, Windows)

Beroenden

RDMA- eller GPU-funktionerna i beräkningsintensiva storlekar i Batch stöds endast i vissa operativsystem. (Listan över operativsystem som stöds är en delmängd av de som stöds för virtuella datorer som skapats i dessa storlekar.) Beroende på hur du skapar batchpoolen kan du behöva installera eller konfigurera ytterligare drivrutin eller annan programvara på noderna. Följande tabeller sammanfattar dessa beroenden. Mer information finns i länkade artiklar. Alternativ för att konfigurera Batch-pooler finns längre fram i den här artikeln.

Linux-pooler – Konfiguration av virtuell dator

^*RDMA-kompatibla N-seriestorlekar innehåller även NVIDIA Tesla-GPU:er

Windows pooler – Konfiguration av virtuell dator

^*RDMA-kompatibla N-seriestorlekar innehåller även NVIDIA Tesla-GPU:er

Windows pooler – Cloud Services konfiguration

Konfigurationsalternativ för pooler

Om du vill konfigurera en specialiserad VM-storlek för Batch-poolen har du flera alternativ för att installera nödvändig programvara eller drivrutiner:

• För pooler i den virtuella datorkonfigurationen väljer du en förkonfigurerad avbildning Azure Marketplace virtuell dator som har drivrutiner och programvara förinstallerade. Exempel:

  • CentOS-baserad 7.4 HPC – innehåller RDMA-drivrutiner och Intel MPI 5.1

  • Data Science Virtual Machine för Linux eller Windows – innehåller NVIDIA CUDA-drivrutiner

  • Linux-avbildningar för Batch-containerarbetsbelastningar som även innehåller GPU- och RDMA-drivrutiner:

    • CentOS (med GPU- och RDMA-drivrutiner) för Azure Batch containerpooler

    • Ubuntu Server (med GPU- och RDMA-drivrutiner) för Azure Batch containerpooler

• Skapa en anpassad Windows virtuell Linux-datoravbildning där du har installerat drivrutiner, programvara eller andra inställningar som krävs för VM-storleken.

• Skapa ett Batch-programpaket från en komprimerad drivrutin eller programinstallationsprogram och konfigurera Batch för att distribuera paketet till poolnoder och installera en gång när varje nod skapas. Om programpaketet till exempel är ett installationsprogram skapar du en kommandorad för startaktivitet för tyst installation av appen på alla poolnoder. Överväg att använda ett programpaket och en startaktivitet för poolen om din arbetsbelastning är beroende av en viss drivrutinsversion.

  Anteckning

  Startaktiviteten måste köras med förhöjd behörighet (administratör) och den måste vänta på att åtgärden ska lyckas. Långvariga aktiviteter ökar tiden för att etablera en Batch-pool.

• Batch Shipyard konfigurerar automatiskt GPU- och RDMA-drivrutinerna för att arbeta transparent med containeriserade arbetsbelastningar på Azure Batch. Batch Shipyard drivs helt och hållet av konfigurationsfiler. Det finns många exempel på receptkonfigurationer som aktiverar GPU- och RDMA-arbetsbelastningar, till exempel CNTK GPU-receptet som förkonfigurerar GPU-drivrutiner på virtuella datorer i N-serien och läser in Microsoft Cognitive Toolkit-programvara som en Docker-avbildning.

Exempel: NVIDIA GPU-drivrutiner på Windows NC VM-pool

Om du vill köra CUDA-program på en pool Windows NC-noder måste du installera NVDIA GPU-drivrutiner. Följande exempelsteg använder ett programpaket för att installera NVIDIA GPU-drivrutinerna. Du kan välja det här alternativet om din arbetsbelastning är beroende av en specifik GPU-drivrutinsversion.

1. Ladda ned ett konfigurationspaket för GPU-drivrutinerna Windows Server 2016 från NVIDIA-webbplatsen, till exempel version 411.82. Spara filen lokalt med ett kort namn som GPUDriverSetup.exe.
2. Skapa en zip-fil med paketet.
3. Upload paketet till Batch-kontot. Anvisningar finns i vägledningen för programpaket. Ange ett program-ID som GPUDriver och en version, till exempel 411.82.
4. Med hjälp av Batch-API:Azure Portal kan du skapa en pool i den virtuella datorkonfigurationen med önskat antal noder och skala. I följande tabell visas exempelinställningar för tyst installation av NVIDIA GPU-drivrutiner med hjälp av en startaktivitet:

Exempel: NVIDIA GPU-drivrutiner på en LINUX NC VM-pool

Om du vill köra CUDA-program i en pool med Linux NC-noder måste du installera nödvändiga NVIDIA Tesla GPU-drivrutiner från CUDA Toolkit. Följande exempelsteg skapar och distribuerar en anpassad Ubuntu 16.04 LTS-avbildning med GPU-drivrutinerna:

1. Distribuera en virtuell dator i Azure NC-serien som kör Ubuntu 16.04 LTS. Skapa till exempel den virtuella datorn i regionen USA, södra centrala.
2. Lägg till tillägget NVIDIA GPU-drivrutiner till den virtuella datorn med hjälp av Azure Portal, en klientdator som ansluter till Azure-prenumerationen eller Azure Cloud Shell. Du kan också följa stegen för att ansluta till den virtuella datorn och installera CUDA-drivrutiner manuellt.
3. Följ stegen för att skapa en Azure Compute Galleri-avbildning för Batch.
4. Skapa ett Batch-konto i en region som stöder virtuella NC-datorer.
5. Använd Batch-API:erna eller Azure Portal skapa en pool med hjälp av den anpassade avbildningen och med önskat antal noder och skala. I följande tabell visas exempelpoolinställningar för bilden:

Exempel: Microsoft MPI på en Windows H16r VM-pool

Om du Windows MPI-program på en pool med virtuella Azure H16r-noder måste du konfigurera tillägget HpcVmDrivers och installera Microsoft MPI. Här är exempelsteg för att distribuera en anpassad Windows Server 2016-avbildning med nödvändiga drivrutiner och programvara:

1. Distribuera en virtuell Azure H16r-dator som kör Windows Server 2016. Skapa till exempel den virtuella datorn i regionen USA, västra.
2. Lägg till tillägget HpcVmDrivers till den virtuella datorn genom att köra ett Azure PowerShell-kommando från en klientdator som ansluter till din Azure-prenumeration eller använder Azure Cloud Shell.
3. Skapa en fjärrskrivbordsanslutning till den virtuella datorn.
4. Ladda ned installationspaketet (MSMpiSetup.exe) för den senaste versionen av Microsoft MPI och installera Microsoft MPI.
5. Följ stegen för att skapa en Azure Compute Galleri-avbildning för Batch.
6. Med hjälp av Batch-API:Azure Portal kan du skapa en pool med Azure Compute-galleriet och med önskat antal noder och skala. I följande tabell visas exempelpoolinställningar för bilden:

Exempel: Intel MPI på en linux H16r VM-pool

Om du vill köra MPI-program på en pool med noder i Linux H-serien är ett alternativ att använda den CentOS-baserade 7.4 HPC-avbildningen från Azure Marketplace. Linux RDMA-drivrutiner och Intel MPI är förinstallerade. Den här avbildningen stöder också Docker-containerarbetsbelastningar.

Använd Batch-API:erna eller Azure Portal skapa en pool med den här avbildningen och med önskat antal noder och skala. I följande tabell visas exempel på poolinställningar:

Nästa steg

• Information om hur du kör MPI-jobb Azure Batch en pool finns i Windows- eller Linux-exempel.

• Exempel på GPU-arbetsbelastningar på Batch finns i Batch Shipyard-recept.