NDm A100 v4-serie

  • Artikel

Let op

In dit artikel wordt verwezen naar CentOS, een Linux-distributie die de status End Of Life (EOL) nadert. Houd rekening met uw gebruik en plan dienovereenkomstig. Zie de Richtlijnen voor het einde van de levensduur van CentOS voor meer informatie.

Van toepassing op: ✔️ Virtuele Linux-machines voor Windows-VM's ✔️ ✔️ Flexibele schaalsets Uniform-schaalsets ✔️

De virtuele machine (VM) uit de NDm A100 v4-serie is een nieuwe vlaggenschip-toevoeging aan de Azure GPU-serie. Het is ontworpen voor geavanceerde Deep Learning-training en nauw gekoppelde hpc-workloads voor omhoog schalen en uitschalen.

De NDm A100 v4-serie begint met één VM en acht NVIDIA Ampere A100 80 GB Tensor Core GPU's. Op NDm A100 v4 gebaseerde implementaties kunnen worden geschaald naar duizenden GPU's met een bandbreedte van 1,6 TB/s met onderling verbonden bandbreedte per VM. Elke GPU binnen de VM wordt geleverd met een eigen, toegewezen topologie-agnostische 200 GB/s NVIDIA Mellanox HDR InfiniBand-verbinding. Deze verbindingen worden automatisch geconfigureerd tussen VM's die dezelfde VM-schaalset bezetten en ondersteunen GPUDirect RDMA.

Elke GPU beschikt over NVLINK 3.0-connectiviteit voor communicatie binnen de VIRTUELE machine en het exemplaar wordt ondersteund door 96 fysieke AMD Epyc™ 7V12 (Rome) CPU-kernen van de 96e generatie.

Deze exemplaren bieden uitstekende prestaties voor veel AI-, ML- en analysehulpprogramma's die ondersteuning bieden voor GPU-versnelling 'out-of-the-box', zoals TensorFlow, Pytorch, Caffe, RAPIDS en andere frameworks. Daarnaast wordt de uitschaalbare InfiniBand-interconnect ondersteund door een grote set bestaande AI- en HPC-hulpprogramma's die zijn gebouwd op DE NCCL2-communicatiebibliotheken van NVIDIA voor naadloze clustering van GPU's.

Belangrijk

Als u aan de slag wilt met NDm A100 v4-VM's, raadpleegt u HPC Workload Configuration and Optimization voor stappen, waaronder stuurprogramma- en netwerkconfiguratie. Vanwege een verhoogde I/O-footprint voor GPU-geheugen vereist de NDm A100 v4 het gebruik van VM's van de tweede generatie en marketplace-installatiekopieën. De Azure HPC-installatiekopieën worden sterk aanbevolen. Azure HPC Ubuntu 18.04-, 20.04- en Azure HPC CentOS 7.9-installatiekopieën worden ondersteund.


Premium Storage: ondersteund
Premium Storage-caching: ondersteund
Ultra Disks: Ondersteund (meer informatie over beschikbaarheid, gebruik en prestaties)
Livemigratie: niet ondersteund
Updates met geheugenbehoud: niet ondersteund
Ondersteuning voor vm-generatie: generatie 2
Versneld netwerken: ondersteund
Tijdelijke besturingssysteemschijven: ondersteund
InfiniBand: Ondersteund, GPUDirect RDMA, 8 x 200 Gigabit HDR
Nvidia NVLink Interconnect: ondersteund
Geneste virtualisatie: niet ondersteund

De NDm A100 v4-serie ondersteunt de volgende kernelversies:
CentOS 7.9 HPC: 3.10.0-1160.24.1.el7.x86_64
Ubuntu 18.04: 5.4.0-1043-azure
Ubuntu 20.04: 5.4.0-1046-azure

Tekengrootte vCPU Geheugen: GiB Temp Storage (SSD): GiB GPU GPU-geheugen: GiB Max. aantal gegevensschijven Max. doorvoer voor schijf zonder caching: IOPS/MBps Maximale netwerkbandbreedte Max. aantal NIC's
Standard_ND96amsr_A100_v4 96 1900 6400 8 A100 80 GB GPU's (NVLink 3.0) 80 32 80,000 / 800 24.000 Mbps 8

De grootte van tabeldefinities wijzigen

  • De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.

  • De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.

  • Gegevensschijven kunnen in de modus met of zonder caching werken. Voor schijfbewerkingen met gegevenscaching is de cachemodus van de host ingesteld op ReadOnly of ReadWrite. Voor schijfbewerkingen zonder gegevenscaching is de cachemodus van de host ingesteld op Geen.

  • Zie de prestaties van virtuele machines en schijven voor meer informatie over de beste opslagprestaties voor uw VM's.

  • Verwachte netwerkbandbreedte is de maximale geaggregeerde bandbreedte die per VM-type is toegewezen voor alle NIC's, voor alle bestemmingen. Zie netwerkbandbreedte voor virtuele machines voor meer informatie.

    Maximumlimieten worden niet gegarandeerd. Limieten bieden richtlijnen voor het selecteren van het juiste VM-type voor de beoogde toepassing. De werkelijke netwerkprestaties zijn afhankelijk van verschillende factoren, waaronder netwerkcongestie, toepassingsbelastingen en netwerkinstellingen. Zie Netwerkdoorvoer optimaliseren voor virtuele Azure-machines voor meer informatie over het optimaliseren van netwerkdoorvoer. Als u de verwachte netwerkprestaties in Linux of Windows wilt bereiken, moet u mogelijk een specifieke versie selecteren of uw VIRTUELE machine optimaliseren. Zie Bandbreedte/doorvoer testen (NTTTCP) voor meer informatie.

Andere grootten en informatie

Prijscalculator: Prijscalculator

Zie welke schijftypen beschikbaar zijn in Azure voor meer informatie over schijftypen?

Volgende stappen

Meer informatie over hoe Azure-rekeneenheden (ACU) u kunnen helpen bij het vergelijken van de rekenprestaties tussen Azure-SKU's.