Dela via


NDm A100 v4-serien

Varning

Den här artikeln refererar till CentOS, en Linux-distribution som närmar sig EOL-status (End Of Life). Överväg att använda och planera i enlighet med detta. Mer information finns i CentOS End Of Life-vägledningen.

Gäller för: ✔️ Virtuella Linux-datorer ✔️ med virtuella Windows-datorer ✔️ – flexibla skalningsuppsättningar ✔️ Enhetliga skalningsuppsättningar

Den virtuella datorn(VM) i NDm A100 v4-serien är ett nytt flaggskeppstillägg till Azure GPU-familjen. Den är utformad för avancerad djupinlärningsträning och nära kopplade arbetsbelastningar för uppskalning och utskalning av HPC.

NDm A100 v4-serien börjar med en enda virtuell dator och åtta NVIDIA Ampere A100 80GB Tensor Core GPU:er. NDm A100 v4-baserade distributioner kan skala upp till tusentals GPU:er med en bandbredd på 1,6 TB per virtuell dator. Varje GPU på den virtuella datorn tillhandahålls med en egen dedikerad, topologi-agnostisk 200 GB/s NVIDIA Mellanox HDR InfiniBand-anslutning. Dessa anslutningar konfigureras automatiskt mellan virtuella datorer som upptar samma VM-skalningsuppsättning och stöder GPUDirect RDMA.

Varje GPU har NVLINK 3.0-anslutning för kommunikation inom den virtuella datorn, och instansen backas upp av 96 fysiska AMD Epyc™ 7V12-processorkärnor i andra generationen (Rom).

Dessa instanser ger utmärkta prestanda för många AI-, ML- och analysverktyg som stöder GPU-acceleration "out-of-the-box", till exempel TensorFlow, Pytorch, Caffe, RAPIDS och andra ramverk. Dessutom stöds den utskalade InfiniBand-anslutningen av en stor uppsättning befintliga AI- och HPC-verktyg som bygger på NVIDIA:s NCCL2-kommunikationsbibliotek för sömlös klustring av GPU:er.

Viktigt!

Information om hur du kommer igång med virtuella NDm A100 v4-datorer finns i HPC-arbetsbelastningskonfiguration och -optimering för steg som drivrutins- och nätverkskonfiguration. På grund av ökat GPU-minnes-I/O-fotavtryck kräver NDm A100 v4 användning av virtuella datorer i generation 2 och marketplace-avbildningar. Azure HPC-avbildningarna rekommenderas starkt. Azure HPC Ubuntu 18.04-, 20.04- och Azure HPC CentOS 7.9-avbildningar stöds.


Premium Storage: Stöds
Cachelagring i Premium Storage: Stöds
Ultra Diskar: Stöds (Läs mer om tillgänglighet, användning och prestanda)
Direktmigrering: Stöds inte
Minnesbevarande Uppdateringar: Stöds inte
Stöd för VM-generation: Generation 2
Accelererat nätverk: Stöds
Tillfälliga OS-diskar: Stöds
InfiniBand: Stöds, GPUDirect RDMA, 8 x 200 Gigabit HDR
Nvidia NVLink Interconnect: Stöds
Kapslad virtualisering: Stöds inte

NDm A100 v4-serien stöder följande kernelversioner:
CentOS 7.9 HPC: 3.10.0-1160.24.1.el7.x86_64
Ubuntu 18.04: 5.4.0-1043-azure
Ubuntu 20.04: 5.4.0-1046-azure

Storlek vCPU Minne: GiB Temp Storage (SSD): GiB GPU GPU-minne: GiB Maximalt antal datadiskar Maximalt icke cachelagrat diskgenomflöde: IOPS / Mbit/s Maximal nätverksbandbredd Maximalt antal nätverkskort
Standard_ND96amsr_A100_v4 96 1900 6400 8 A100 80 GB GPU:er (NVLink 3.0) 80 32 80,000 / 800 24 000 Mbit/s 8

Definitioner för storlekstabellen

  • Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.

  • Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.

  • Datadiskar kan köras i cachelagrat eller icke cachelagrat läge. För diskåtgärder med cachelagrade data anges cacheläget till ReadOnly eller ReadWrite. För diskåtgärder med icke cachelagrade data anges cacheläget till Inget.

  • Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

  • Förväntad nätverksbandbredd är den maximala aggregerade bandbredden som allokeras per VM-typ för alla nätverkskort för alla mål. Mer information finns i Nätverksbandbredd för virtuella datorer.

    Övre gränser garanteras inte. Begränsningar ger vägledning för att välja rätt typ av virtuell dator för det avsedda programmet. Den faktiska nätverksprestandan beror på flera faktorer som nätverksbelastning, programbelastning och nätverksinställningar. Information om hur du optimerar nätverkets dataflöde finns i Optimera nätverkets dataflöde för virtuella Azure-datorer. För att uppnå den förväntade nätverksprestandan i Linux eller Windows kan du behöva välja en viss version eller optimera den virtuella datorn. Mer information finns i Bandbredds-/dataflödestestning (NTTTCP).

Andra storlekar och information

Priskalkylator: Priskalkylator

Mer information om disktyper finns i Vilka disktyper är tillgängliga i Azure?

Nästa steg

Läs mer om hur Azure-beräkningsenheter (ACU) kan hjälpa dig att jämföra beräkningsprestanda mellan Azure-SKU:er.