Azure IoT Edge視覺 AI 的硬體加速

電腦圖形和人工智慧 (AI) 需要大量的運算能力。 設計 Azure IoT Edge視覺 AI 專案的重要因素是解決方案所需的硬體加速程度。

硬體加速器，例如圖形處理器 (GPU) 、現場可程式化閘道陣列 (FPGA) ，以及 (ASIC (ASIC) 都是符合成本效益的方式來改善效能。

運算硬體類型

下列各節說明IoT Edge視覺元件的主要運算硬體類型。

CPU

CPU) (中央處理單位是大部分一般用途運算的預設選項。 CPU 可能足以用於時間不重要的視覺工作負載。 不過，涉及重大計時、多個相機串流或高畫面播放速率的工作負載需要特定的硬體加速。

GPU

GPU 是高階電腦圖形卡的預設處理器。 高效能電腦 (HPC) 案例、資料採礦和 AI 或機器學習 (ML) 工作負載都使用 GPU。 視覺工作負載使用 GPU 的大量平行運算能力來加速圖元資料處理。 GPU 的缺點是其較高的耗電量，這是邊緣工作負載中的重要考慮。

FPGA

FPGA 功能強大、可重新設定的硬體加速器，可支援深度學習神經網路的成長。 FPGA 加速器有數百萬個可程式化閘道和數百個 I/O 針腳，而且可以每秒累積數兆個 (MAC) 作業， (TOPS) 。 有許多 FPGA 程式庫已針對視覺工作負載優化。 其中一些程式庫包含預先設定的介面，可連線到下游相機和裝置。

ML 和IoT Edge工作負載中的 FGP 使用量仍在演進。 FPGA 通常短于浮點作業，但製造商已改善此領域。

Asic

ASIC 會製造為執行特定工作。 ASIC 到目前為止是可用的最快加速器，但最不具設定性。 ASIC 晶片很受歡迎，因為其小型、每瓦效能的電源，以及 ip (ip) 保護的智慧財產權。 IP 會耗盡至 ASIC 晶片，因此很難反向工程專屬演算法。

參與者

本文由 Microsoft 維護。 最初是由下列參與者所撰寫。

主體作者：

• KeithHill |資深 PM 經理

若要查看非公用LinkedIn設定檔，請登入 LinkedIn。

下一步

Azure IoT Edge視覺 AI 中的機器學習和資料科學