Share via

Maskinvaruacceleration för Azure IoT Edge vision AI

  • Artikel

Datorgrafik och artificiell intelligens (AI) kräver stora mängder databehandlingskraft. En viktig faktor för att utforma Azure IoT Edge VISION AI-projekt är graden av maskinvaruacceleration som lösningen behöver.

Maskinvaruacceleratorer som grafikprocessorer (GPU: er), fältprogrammabla gatematriser (FPGA) och programspecifika integrerade kretsar (ASIC) är kostnadseffektiva sätt att förbättra prestanda.

Maskinvarutyper för databehandling

I följande avsnitt beskrivs de viktigaste typerna av maskinvara för databehandling för IoT Edge visionskomponenter.

Processor

En central bearbetningsenhet (CPU) är standardalternativet för de flesta allmänna databehandling. En CPU kan vara tillräcklig för visionsarbetsbelastningar där tidsinställningen inte är kritisk. Men arbetsbelastningar som omfattar kritisk tidsinställning, flera kameraströmmar eller höga bildfrekvenser behöver specifik maskinvaruacceleration.

GPU

En GPU är standardprocessorn för avancerade grafikkort. HPC-scenarier (högpresterande dator), datautvinning och AI- eller maskininlärningsarbetsbelastningar (ML) använder alla GPU:er. Vision-arbetsbelastningar använder GPU:ernas enorma parallella beräkningskraft för att påskynda bearbetningen av pixeldata. Nackdelen med en GPU är den högre energiförbrukningen, vilket är ett viktigt övervägande i gränsarbetsbelastningar.

FPGA

FPGA är kraftfulla, omkonfigurerbara maskinvaruacceleratorer som stöder tillväxten av neurala djupinlärningsnätverk. FPGA-acceleratorer har miljontals programmerbara grindar och hundratals I/O-stift, och kan göra biljoner multiplicera ackumulerade (MAC) åtgärder per sekund (TOPS). Det finns många FPGA-bibliotek som är optimerade för visionsarbetsbelastningar. Några av dessa bibliotek innehåller förkonfigurerade gränssnitt för att ansluta till underordnade kameror och enheter.

Användningen av FGPA i ML och IoT Edge arbetsbelastningar utvecklas fortfarande. FPGAs tenderar att misslyckas i flyttalsverksamheten, men tillverkarna har gjort förbättringar på detta område.

ASIC

ASIC:er tillverkas för att utföra en specifik uppgift. ASIC är de överlägset snabbaste acceleratorerna som är tillgängliga, men de är minst konfigurerbara. ASIC-chips är populära på grund av deras lilla storlek, effekt per watt-prestanda och skydd mot immateriella rättigheter (IP). IP-adressen bränns i ASIC-chips, vilket gör det svårt att omvända teknikerns patentskyddade algoritmer.

Deltagare

Den här artikeln underhålls av Microsoft. Den skrevs ursprungligen av följande deltagare.

Huvudförfattare:

Om du vill se icke-offentliga LinkedIn-profiler loggar du in på LinkedIn.

Nästa steg

Maskininlärning och datavetenskap i Azure IoT Edge vision AI