Seri NDv2 yang diperbarui

  • Artikel

Berlaku untuk: ✔️ Mesin virtual Linux ✔️ Mesin virtual Windows ✔️ Set skala fleksibel ✔️ Set skala seragam

Komputer virtual seri NDv2 adalah tambahan baru untuk keluarga GPU yang dirancang untuk kebutuhan beban kerja AI yang dipercepat GPU, pembelajaran mesin, simulasi, dan HPC yang paling banyak diminta.

NDv2 didukung oleh 8 GPU yang terhubung NVIDIA Tesla V100 NVLINK, masing-masing dengan memori GPU 32 GB. Setiap VM NDv2 juga memiliki 40 core Intel Xeon Platinum 8168 (Skylake) non-HyperThreaded dan memori sistem 672 GiB.

Instans NDv2 memberikan performa yang sangat baik untuk beban kerja HPC dan AI yang menggunakan kernel komputasi yang dioptimalkan CUDA GPU, dan berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya.

Yang terpenting, NDv2 dibuat untuk beban kerja peningkatan skala intens (memanfaatkan 8 GPU per VM) dan perluasan skala (memanfaatkan beberapa VM yang bekerja bersama) secara komputasi. Seri NDv2 sekarang mendukung jaringan backend InfiniBand EDR 100-Gigabit, mirip dengan yang tersedia pada seri HB VM HPC, untuk memungkinkan pengklusteran berperforma tinggi untuk skenario paralel seperti pelatihan terdistribusi untuk AI dan ML. Jaringan backend ini mendukung semua protokol InfiniBand utama, termasuk yang digunakan oleh pustaka NCCL2 NVIDIA, yang memungkinkan pengklusteran GPU yang lancar.

Penting

Saat mengaktifkan InfiniBand pada VM ND40rs_v2, silakan gunakan driver 4.7-1.0.0.1 Mellanox OFED.

Karena peningkatan memori GPU, perangkat VM ND40rs_v2 membutuhkan penggunaan VM Generasi 2 dan citra marketplace.

Harap dicatat: ND40s_v2 yang memiliki 16 GB memori per-GPU tidak lagi tersedia untuk pratinjau dan sudah digantikan oleh ND40rs_v2 yang telah diperbarui.


Penyimpanan Premium: Didukung
Penembolokan Penyimpanan Premium: Didukung
Disk Ultra: Didukung (Pelajari lebih lanjut tentang ketersediaan, penggunaan, dan performa)
Migrasi Langsung: Tidak Didukung
Pembaruan Pertahanan Memori: Tidak Didukung
Dukungan Generasi VM: Generasi 2
Jaringan yang Dipercepat: Didukung
Disk OS Sementara: Didukung
InfiniBand: Didukung
Interkoneksi Nvidia NVLink: Didukung
Virtualisasi Bertumpuk: Tidak Didukung

Ukuran vCPU Memori: GiB Penyimpanan Sementara (SSD): GiB GPU Memori GPU: GiB Disk data maksimal Throughput disk maksimal yang tidak di-cache: IOPS/MBps Bandwidth jaringan maks NIC Maksimal
Standard_ND40rs_v2 40 672 2948 8 V100 32 GB (NVLink) 32 32 80000/800 24000 Mbps 8

Sistem operasi dan driver yang didukung

Untuk memanfaatkan kemampuan GPU komputer virtual Azure seri N, driver GPU NVIDIA harus diinstal.

Ekstensi Driver GPU NVIDIA menginstal driver NVIDIA CUDA atau GRID pada VM seri N. Pasang atau kelola ekstensi menggunakan portal Microsoft Azure atau alat seperti templat Azure PowerShell atau Azure Resource Manager. Untuk informasi umum tentang ekstensi komputer virtual, lihat Fitur dan ekstensi komputer virtual Azure.

Jika Anda memilih untuk menginstal driver GPU NVIDIA secara manual, lihat Pengaturan driver GPU seri N untuk Linux.

Definisi tabel ukuran

  • Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.

  • Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps yang mana MBps = 10^6 byte/detik.

  • Disk data dapat beroperasi dalam mode cache atau tidak di-cache. Untuk operasi disk data cache, mode cache host diatur ke ReadOnly atau ReadWrite. Untuk operasi disk data yang tidak di-cache, mode cache host diatur ke None.

  • Untuk mempelajari cara mendapatkan performa penyimpanan terbaik untuk VM Anda, lihat Komputer virtual dan performa disk.

  • Bandwidth jaringan yang diharapkan adalah bandwidth agregat maksimum yang dialokasikan per jenis VM di semua NIC, untuk semua tujuan. Untuk mengetahui informasi selengkapnya, lihat Bandwidth jaringan komputer virtual.

    Batas atas tidak dijamin. Batas menawarkan panduan untuk memilih jenis VM yang tepat untuk aplikasi yang dimaksud. Performa jaringan aktual akan tergantung pada beberapa faktor termasuk kemacetan jaringan, beban aplikasi, dan pengaturan jaringan. Untuk mengetahui informasi tentang mengoptimalkan throughput jaringan, lihat Mengoptimalkan throughput jaringan untuk komputer virtual Azure. Untuk mencapai performa jaringan yang diharapkan di Linux atau Windows, Anda mungkin perlu memilih versi tertentu atau mengoptimalkan VM Anda. Untuk mengetahui informasi selengkapnya, lihat Pengujian Bandwidth/Throughput (NTTTCP).

Ukuran serta informasi lainnya

Kalkulator Harga: Kalkulator Harga

Untuk mengetahui informasi selengkapnya tentang jenis disk, lihat Jenis disk apa yang tersedia di Azure?

Langkah berikutnya

Pelajari lebih lanjut tentang bagaimana Unit komputasi Azure (ACU) dapat membantu Anda membandingkan performa komputasi di seluruh SKU Azure.