업데이트된 NDv2 시리즈

  • 아티클

적용 대상: ✔️ Linux VM ✔️ Windows VM ✔️ 유연한 확장 집합 ✔️ 균일한 확장 집합

NDv2 시리즈 가상 머신은 가장 까다로운 GPU 가속 AI, 기계 학습, 시뮬레이션 및 HPC 워크로드의 요구 사항에 맞게 설계된 GPU 제품군에 새롭게 추가되었습니다.

NDv2는 NVIDIA Tesla V100 NVLINK에 연결된 8개의 GPU로 구동되며, 각 GPU의 메모리는 32GB입니다. 또한 각 NDv2 VM은 40개의 non-HyperThreaded Intel Xeon Platinum 8168 (Skylake) 코어 및 672GiB의 시스템 메모리를 갖추고 있습니다.

NDv2 인스턴스는 CUDA GPU에 최적화된 계산 커널 및 GPU 가속화를 지원하는 많은 AI, ML, 분석 도구(예: TensorFlow, Pytorch, Caffe, RAPIDS, 다른 프레임워크)를 활용하여 HPC 및 AI 워크로드에 탁월한 성능을 제공합니다.

특히, NDv2는 계산 집약적인 스케일 업(VM당 8개의 GPU 활용) 워크로드와 스케일 아웃(여러 VM을 함께 활용) 워크로드에 모두 적합하게 빌드되었습니다. 현재 NDv2 시리즈는 HPC VM의 HB 시리즈와 유사한 100기가비트 InfiniBand EDR 백엔드 네트워킹을 지원하여 AI 및 ML에 대한 분산 학습을 포함한 병렬 시나리오에 대한 고성능 클러스터링이 가능합니다. 해당 백엔드 네트워크는 NVIDIA의 NCCL2 라이브러리에서 사용되는 프로토콜을 포함하여 모든 주요 InfiniBand 프로토콜을 지원하여 GPU가 원활하게 클러스터링할 수 있습니다.

Important

ND40rs_v2 VM에서 InfiniBand 사용을 설정할 때는 4.7-1.0.0.1 Mellanox OFED 드라이버를 사용하세요.

GPU 메모리의 증가로 인해 새로운 ND40rs_v2 VM은 2세대 VM 및 마켓플레이스 이미지를 사용해야 합니다.

참고: GPU당 16GB의 메모리가 포함된 ND40s_v2는 더 이상 미리 보기에 사용할 수 없으며 업데이트된 ND40rs_v2로 대체 되었습니다.


Premium Storage: 지원됨
Premium Storage 캐싱: 지원됨
Ultra Disks: 지원됨(가용성, 사용량 및 성능에 대해 자세히 알아보기)
실시간 마이그레이션: 지원되지 않음
메모리 보존 업데이트: 지원되지 않음
VM 생성 지원: 2세대
가속화된 네트워킹: 지원됨
임시 OS 디스크: 지원됨
InfiniBand: 지원됨
Nvidia NVLink Interconnect: 지원됨
중첩 가상화: 지원되지 않음

크기 vCPU 메모리: GiB 임시 스토리지(SSD): GiB GPU GPU 메모리: GiB 최대 데이터 디스크 수 최대 캐시되지 않은 디스크 처리량: IOPS/MBps 최대 네트워크 대역폭 최대 NIC 수
Standard_ND40rs_v2 40 672 2948 8 V100 32GB(NVLink) 32 32 80000 / 800 24,000Mbps 8

지원되는 운영 체제 및 드라이버

Azure N 시리즈 VM의 GPU 기능을 최대한 활용하려면 NVIDIA GPU 드라이버를 설치해야 합니다.

NVIDIA GPU 드라이버 확장은 N 시리즈 VM에 적절한 NVIDIA CUDA 또는 GRID 드라이버를 설치합니다. Azure PowerShell 또는 Azure Resource Manager 템플릿과 같은 도구나 Azure Portal을 사용하여 확장을 설치 또는 관리합니다. VM 확장에 대한 일반적인 내용은 Azure 가상 머신 확장 및 기능을 참조하세요.

NVIDIA GPU 드라이버를 수동으로 설치하기로 한 경우, Linux용 N 시리즈 GPU 드라이버 설정을 참조하세요.

크기 테이블 정의

  • 스토리지 용량 단위는 GiB(1024^3바이트) 단위로 표시됩니다. GB(1000^3바이트) 단위로 측정된 디스크를 GiB(1024^3바이트) 단위로 측정된 디스크와 비교할 때는 GiB 단위로 지정된 용량 수치가 더 작게 표시될 수 있음에 유의해야 합니다. 예를 들어 1023GiB = 1098.4GB입니다.

  • 디스크 처리량은 IOPS(초당 입/출력 작업 수) 및 MBps로 측정되며, MBps = 10^6바이트/초입니다.

  • 데이터 디스크는 캐시된 모드 또는 캐시되지 않은 모드에서 작동할 수 있습니다. 캐시된 데이터 디스크 작업의 경우 호스트 캐시 모드가 ReadOnly 또는 ReadWrite로 설정됩니다. 캐시되지 않은 데이터 디스크 작업의 경우에는 호스트 캐시 모드가 None으로 설정됩니다.

  • VM에 가장 적합한 스토리지 성능을 얻는 방법에 대해 알아보려면 가상 머신 및 디스크 성능을 참조하세요.

  • 예상 네트워크 대역폭은 모든 NIC에서 모든 대상에 대해 VM 유형별로 할당된 최대 집계 대역폭입니다. 자세한 내용은 가상 머신 네트워크 대역폭을 참조하세요.

    상한은 보장되지 않습니다. 제한은 원하는 애플리케이션에 적합한 VM 유형을 선택하기 위한 지침을 제공합니다. 실제 네트워크 성능은 네트워크 정체, 애플리케이션 로드 및 네트워크 설정을 비롯한 여러 요인에 따라 달라집니다. 네트워크 처리량 최적화에 대한 정보는 Azure 가상 머신에 대한 네트워크 처리량 최적화를 참조하세요. Linux 또는 Windows에서 예상되는 네트워크 성능을 달성하려면 특정 버전을 선택하거나 VM을 최적화해야 할 수도 있습니다. 자세한 내용은 대역폭/처리량 테스트(NTTTCP)를 참조하세요.

기타 크기 및 정보

가격 계산기: 가격 계산기

디스크 유형에 대한 자세한 내용은 Azure에서 사용할 수 있는 디스크 유형을 참조하세요.

다음 단계

ACU(Azure 컴퓨팅 단위)가 Azure SKU 간의 Compute 성능을 비교하는 데 어떻게 도움을 줄 수 있는지 알아봅니다.