NC A100 v4 系列
警告
本文參考 CentOS，這是接近結束生命週期 (EOL) 狀態的 Linux 發行版本。 請據以考慮您的使用和規劃。 如需詳細資訊，請參閱 CentOS 生命週期結束指引。
適用於： ✔️ Linux VM ✔️ Windows VM ✔️ 彈性擴展集 ✔️ 統一擴展集
NC A100 v4 系列虛擬機器是 Azure GPU 系列的新成員。 此系列適用於實際 Azure 應用 AI 訓練和批次推斷工作負載。
NC A100 v4 系列由 NVIDIA A100 PCIe GPU 和第三代 AMD EPYC™ 7V13 （米蘭） 處理器提供。 VM 最多可提供 4 個 NVIDIA A100 PCIe GPU，每個 CPU 記憶體為 80 GB，最多 96 個非多線程 AMD EPYC 米蘭處理器核心和 880 GiB 的系統記憶體。 這些 VM 適用於實際應用的 AI 工作負載，例如：
- GPU 加速分析和資料庫
- 包含大量前置和後置處理的批次推斷
- 自主模型定型
- 石油與天然氣貯存槽模擬
- 機器學習 (ML) 開發
- 影片處理
- AI/ML Web 服務
支援的功能
若要開始使用 NC A100 v4 VM，請參閱 HPC 工作負載設定和最佳化，以取得包括驅動程式和網路設定的步驟。
由於 GPU 記憶體 I/O 使用量增加，NC A100 v4 需要使用第 2 代 VM 和市集映像。 雖然建議使用 Azure HPC 映射，但支援 Azure HPC Ubuntu 20.04 和 Azure HPC CentOS 7.9、RHEL 8.8、RHEL 9.2、Windows Server 2019 和 Windows Server 2022 映像。
- 進階儲存體：支援
- 進階儲存體快取：支援
- Ultra 磁碟：不支援
- 即時移轉：不支援
- 記憶體保留更新：不支援
- VM 世代支援：第 2 代
- 加速網路：支援
- 暫時性 OS 磁碟：支援
- InfiniBand：不支援
- NVIDIA NVLink 互連：支援
- 巢狀虛擬化：不支援
| 大小 | vCPU | 記憶體 (GiB) | 暫存磁碟1 （GiB） | NVMe 磁碟2 | GPU3 | GPU 記憶體 (GiB) | 最大資料磁碟 | 最大未快取磁碟輸送量 (IOPS / MBps) | 最大 NIC/網路頻寬 (MBps) |
|---|---|---|---|---|---|---|---|---|---|
| Standard_NC24ads_A100_v4 | 24 | 220 | 64 | 960 GB | 1 | 80 | 8 | 30000/1000 | 2/20,000 |
| Standard_NC48ads_A100_v4 | 48 | 440 | 128 | 2x960 GB | 2 | 160 | 16 | 60000/2000 | 4/40,000 |
| Standard_NC96ads_A100_v4 | 96 | 880 | 256 | 4x960 GB | 4 | 320 | 32 | 120000/4000 | 8/80,000 |
1 NC A100 v4 系列 VM 具有標準 SCSI 型暫存資源磁碟，以供 OS 分頁/交換檔使用。 這可確保 NVMe 磁碟機可完全專供應用程式使用。 此磁碟為暫時磁碟，所有資料在停止/解除配置時都會遺失。
2 個本機 NVMe 磁碟都是暫時性的，如果您停止/解除配置您的 VM，這些磁碟上的資料將會遺失。 本機 NVMe 磁碟會以 RAM 的形式推出，而且必須在新部署的 VM 中手動格式化。
31 GPU = 一個 A100 80GB PCIe GPU 記憶卡
資料表大小定義
儲存容量會以 GiB 或是 1024^3 位元組為單位顯示。 當比較使用 GB (1000^3 位元組) 為度量單位的磁碟與使用 GiB (1024^3) 為度量單位的磁碟時，請記住以 GiB 為單位提供的容量數字可能較小。 例如，1023 GiB = 1098.4 GB。
磁碟輸送量是以每秒輸入/輸出作業 (IOPS) 和 MBps 進行測量，其中 MBps = 10^6 位元組/每秒。
資料磁碟可以在快取模式或取消快取模式下運作。 針對快取的資料磁碟作業，主機快取模式必須設定為 ReadOnly 或 ReadWrite。 針對取消快取的資料磁碟作業，主機快取模式必須設定為 None。
若要瞭解如何取得 VM 的最佳儲存體效能，請參閱虛擬機器和磁碟效能。
預期的網路頻寬是針對所有目的地，為所有 NIC 中每個 VM 類型配置的最大彙總頻寬。 如需詳細資訊，請參閱虛擬機器網路頻寬。
不保證效能上限。 限制針對預定應用程式選取正確 VM 類型的供應項目指導。 實際網路效能取決於多種因素，包括網路壅塞、應用程式負載和網路設定。 如需最佳化網路輸送量的資訊，請參閱最佳化 Azure 虛擬機器的網路輸送量。 若要達到 Linux 或 Windows 上的預期網路效能，您可能需要選取特定版本，或最佳化 VM。 如需詳細資訊，請參閱頻寬/輸送量測試 (NTTTCP)。
其他大小和資訊
您可以使用定價計算機來估計您的 Azure VM 成本。
如需磁碟類型的詳細資訊，請參閱 Azure 中有哪些磁碟類型可用？