Nasazení modulu IoT s podporou GPU na Azure Stack Hub

S podporou grafického procesoru Azure Stack Hub můžete nasadit moduly náročné na procesor na zařízení s Linuxem spuštěná v IoT Edge. Velikosti virtuálních počítačů optimalizovaných pro GPU jsou specializované virtuální počítače dostupné s jedním nebo několika grafickými procesory NVIDIA. V tomto článku se dozvíte, jak používat virtuální počítače optimalizované pro GPU ke spouštění úloh náročných na výpočetní výkon, náročné na grafiku a vizualizací.

Než začnete, budete potřebovat předplatné Azure Active Directory (Azure AD) s přístupem ke globálním prostředkům Azure a Azure Stack Hub, Azure Container Registry (ACR) a centru IoT.

V tomto článku:

  • Nainstalujte virtuální počítač s Linuxem s podporou GPU a nainstalujte správné ovladače.
  • Nainstalujte Docker a povolte GPU v modulu runtime.
  • Připojení zařízení IoT do ioT Hubu a z marketplace iOT nainstalujte model: Getting started with GPUs .
  • Nainstalujte a monitorujte zařízení z místního počítače pomocí Azure IoT Exploreru.
  • Volitelně můžete zařízení nainstalovat a monitorovat pomocí rozšíření Azure IoT v Visual Studio Code.

Požadavky

V globálním Azure a na místním počítači pro vývoj budete Azure Stack Hub mít k dispozici následující prostředky.

Azure Stack Hub a Azure

  • Předplatné jako uživatel používající Azure Active Directory (Azure AD) v integrovaném Azure Stack Hub systému s GPU NVIDA. Následující čipy fungují s iOT Hubem:

    • NCv3
    • NCas_v4

    Další informace o gpu na virtuálních Azure Stack Hub najdete v tématu Grafický procesor (GPU)na virtuálním počítači Azure Stack Hub .

  • Globální předplatné Azure. Pokud nemáte globální předplatné Azure, vytvořte si bezplatný účet před tím, než začnete.

  • Třída Azure Container Registry (ACR). Poznamenejte si přihlašovací server ACR, uživatelské jméno a heslo.

  • Centrum IoT úrovně Free nebo Standard v globálním Azure.

Vývojový počítač

  • V závislosti na vašich předvolbách vývoje můžete použít vlastní počítač nebo virtuální počítač. Váš vývojový počítač bude muset podporovat vnořenou virtualizaci. Tato funkce je nezbytná pro spuštění Dockeru, modulu kontejneru použitého v tomto článku.

  • Váš vývojový počítač bude potřebovat následující prostředky:

Zaregistrovat zařízení IoT Edge

K hostování vašeho zařízení IoT Edge zařízení. Použití samostatného zařízení zajistí oddělení mezi vaším vývojovým strojem a IoT Edge přesněji zrcadlí scénář nasazení.

Vytvoření IoT Edge zařízení v Azure s virtuálním počítači s Linuxem:

  1. Vytvořte virtuální počítač se serverem N-series s Linuxem na Azure Stack Hub. Při instalaci komponent pro server budete se serverem pracovat přes SSH. Další informace najdete v tématu Použití páru klíčů SSH s Azure Stack Hub.

  2. Vytvoření a registrace IoT Edge zařízení

Příprava virtuálního počítače s podporou GPU

  1. Nainstalujte ovladače GPU NVIDA na linuxový server řady N-series podle postupu v článku Instalace ovladačů NVIDIA GPU na virtuální počítače řady N s Linuxem.

    Poznámka

    K instalaci softwaru použijete příkazový řádek Bash. Příkazy si poznamenejte, protože pomocí stejných příkazů nainstalujete ovladače do kontejneru spuštěného v Dockeru na virtuálním počítači s podporou GPU.

  2. Nainstalujte nejnovější IoT Edge runtime na linuxový server řady N-series v Azure Stack Hub. Pokyny najdete v tématu Instalace modulu runtime Azure IoT Edge v systémech Linux založených na distribuci Debian.

Instalace Dockeru

Nainstalujte Docker na virtuální počítač s podporou GPU. Modul spustíte z webu IoT Edge marketplace v kontejneru na virtuálním počítači.

Musíte nainstalovat Docker 19.02 nebo vyšší. Modul runtime Docker teď podporuje grafické procesory NVIDIA. Další informace o GPU bout v Dockeru najdete v článku v tématu Dokumentace k Dockeru, Možnosti modulu runtime s pamětí, procesory a GPU.

Instalace Dockeru

Kontejnery Dockeru mohou běžet kdekoli, místně v zákaznickém datacentru, u externího poskytovatele služeb nebo v cloudu, v Azure. Kontejnery i image Dockeru mohou běžet nativně v Linuxu a Windows. Image Windows však mohou běžet pouze na hostitelích Windows Windows image Linuxu mohou běžet na hostitelích s Linuxem Windows (zatím pomocí virtuálního počítače Hyper-V s Linuxem), kde hostitel znamená server nebo virtuální počítač. Další informace najdete v tématu Co je Docker?.

  1. Připojení ke svému linuxovém serveru řady N-series pomocí klienta SSH.

  2. Aktualizujte index a seznamy apt.

    sudo apt-get update
    
  3. Na počítači načítá nové verze existujících balíčků.

    sudo apt-get upgrade
    
  4. Nainstalujte závislosti vyžadované pro přidání úložiště apt Dockeru.

    sudo apt-get install apt-transport-https ca-certificates curl software-properties-common
    
  5. Přidejte klíč GPG Dockeru.

    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
    
  6. Přidejte do dockeru apt repo.

    sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
    
  7. Aktualizujte index a seznamy apt a nainstalujte Docker Community Edition.

    sudo apt-get update 
    sudo apt-get install docker-ce
    
  8. Ověřte instalaci kontrolou verze Dockeru.

    docker -v
    
  9. Zpřístupňuje dostupné prostředky GPU v Dockeru.

    docker run -it --rm --gpus all ubuntu nvidia-smi
    

Získání položky z marketplace

Vraťte se Azure Portal a přidejte model do hraničního zařízení pomocí marketplace iOT. V nabídce vyberte Modul Marketplace. Vyhledejte Getting started with GPUs a podle pokynů přidejte modul .

Pokyny najdete v tématu Výběr zařízení a přidání modulů.

Povolení monitorování

  1. Stáhněte si Azure IoT Explorera připojte aplikaci ke svému IoT Hub.

  2. Vyberte své zařízení IoT a v navigační nabídce přejděte na Telemetrie.

  3. Vyberte Spustit a zahajte monitorování výstupu z IoT Edge zařízení.

platná instalace

Monitorování modulu (volitelné)

  1. Na paletě příkazů VS Code spusťte Azure IoT Hub: Select IoT Hub (Azure IoT Hub: Vybrat IoT Hub).

  2. Zvolte předplatné a centrum IoT obsahující zařízení IoT Edge, které chcete nakonfigurovat. V tomto případě vyberte předplatné ve vaší instanci Azure Stack Hub a vyberte zařízení IoT Edge vytvořené pro vaši Azure Stack Hub. K tomu dochází při konfiguraci výpočetních prostředků Azure Portal v předchozích krocích.

  3. V průzkumníku VS Code rozbalte oddíl Azure IoT Hub. V částiZařízení by se mělo zobrazit IoT Edge zařízení odpovídající vašemu Azure Stack Hub.

    1. Vyberte toto zařízení, klikněte pravým tlačítkem a vyberte Spustit monitorování Integrovaný koncový bod událostí.

    2. Přejděte na Moduly zařízení a měl by se zobrazit spuštěný modul GPU.

    3. V VS Code by se také měly zobrazit IoT Hub události jako výstup monitorování pro váš Azure Stack Hub.

    platná instalace je

    Vidíte, že čas provádění stejné sady operací (5 000 iterací transformace tvaru) gpu je mnohem kratší než u procesoru.

Další kroky