Nasazení modulu IoT s povoleným grafickým procesorem do centra Azure StackDeploy a GPU enabled IoT module on Azure Stack Hub

Pomocí rozbočovače Azure Stack s podporou GPU můžete nasadit moduly náročné na procesor na zařízení se systémem Linux spuštěná v IoT Edge.With a GPU-enabled Azure Stack Hub, you can deploy processor-intensive modules to Linux devices running at the IoT Edge. Velikosti virtuálních počítačů optimalizované pro GPU jsou specializované virtuální počítače dostupné s jedním nebo několika grafickými procesory NVIDIA.GPU optimized VM sizes are specialized VMs available with single or multiple NVIDIA GPUs. V tomto článku se naučíte, jak používat optimalizované virtuální počítače GPU ke spouštění úloh náročných na výpočetní a datovou grafiku a vizualizaci.In this article, learn to use GPU optimized VMs to run compute-intensive, graphics-intensive, and visualization workloads.

Než začnete, budete potřebovat předplatné služby Azure Active Directory (Azure AD) s přístupem ke globálnímu centru Azure a Azure Stack, Azure Container Registry (ACR) a službě IoT Hub.Before you start, you will need an Azure Active Directory (Azure AD) subscription with access to global Azure and Azure Stack Hub, an Azure Container Registry (ACR), and an IoT hub.

V tomto článku:In this article, you:

  • Nainstalujte virtuální počítač Linux s podporou GPU a nainstalujte správné ovladače.Install an GPU-enabled Linux VM and install the correct drivers.
  • Nainstalujte Docker a povolte GPU v modulu runtime.Install Docker and enable the GPU in the runtime.
  • Připojte své zařízení IoT ke službě iOT hub a nainstalujte si z webu iOT Marketplace model: Getting started with GPUs .Connect your IoT device to your iOT Hub and install from the iOT marketplace the model: Getting started with GPUs.
  • Nainstalujte a monitorujte zařízení z místního počítače pomocí Azure IoT Exploreru.Install and monitor your device from a local machine using Azure IoT explorer.
  • A volitelně můžete zařízení nainstalovat a monitorovat pomocí rozšíření Azure IoT v Visual Studio Code.And optionally, install and monitor your device using the Azure IoT extension in Visual Studio Code.

PředpokladyPrerequisites

V rámci vaší instance centra Azure Stack, globálního Azure a místního vývojového počítače budete potřebovat následující prostředky.You'll need to have the following resources in place in your Azure Stack Hub instance, global Azure, and on your local development machine.

Centrum Azure Stack a AzureAzure Stack Hub and Azure

  • Předplatné jako uživatel, který používá Azure Active Directory (Azure AD) v integrovaném systému Azure Stack hub s grafickým procesorem NVIDA.A subscription as a user using Azure Active Directory (Azure AD) in an Azure Stack Hub Integrated System with an NVIDA GPU. Následující čipy pracují se službou iOT hub:The following chips work with iOT Hub:

    • NCv3NCv3
    • NCas_v4NCas_v4

    Další informace o GPU v Azure Stackovém centru najdete v tématu virtuální počítač GPU (Graphics Processing Unit) na rozbočovači Azure Stack.For more information about GPUs on Azure Stack Hub, see Graphics processing unit (GPU) VM on Azure Stack Hub.

  • Globální předplatné Azure.A global Azure subscription. Pokud nemáte globální předplatné Azure, vytvořte si bezplatný účet před tím, než začnete.If you don't have a global Azure subscription, create a free account before you begin.

  • Azure Container Registry (ACR).An Azure Container Registry (ACR). Poznamenejte si server pro přihlášení ACR, uživatelské jméno a heslo.Make a note of the ACR sign-in server, username, and password.

  • Služby IoT Hub ve službě Global Azure na úrovni Free nebo Standard.A free or standard-tier IoT hub in global Azure.

Vývojový počítačA development machine

  • V závislosti na vašich předvolbách pro vývoj můžete použít svůj vlastní počítač nebo virtuální počítač.You can use your own computer or a virtual machine, depending on your development preferences. Váš vývojový počítač bude muset podporovat vnořenou virtualizaci.Your development machine will need to support nested virtualization. Tato funkce je nutná pro spuštění Docker, modul kontejneru, který se používá v tomto článku.This capability is necessary for running Docker, the container engine used in this article.

  • Váš vývojový počítač bude potřebovat následující zdroje:Your development machine will need the following resources:

Zaregistrovat zařízení IoT EdgeRegister an IoT Edge device

Pro hostování zařízení IoT Edge použijte samostatné zařízení.Use a separate device to host your IoT Edge device. Když použijete samostatné zařízení, budete mít k dispozici oddělení vašeho vývojového počítače a zařízení IoT Edge přesněji zrcadlit scénář nasazení.Using a separate device will provide a separation between your development machine and IoT Edge device more accurately mirrors a deployment scenario.

Vytvořte zařízení IoT Edge v Azure s virtuálním počítačem Linux:Create an IoT Edge device in Azure with a Linux VM:

  1. Vytvořte virtuální počítač s N-Series Linux serverem na rozbočovači Azure Stack.Create an N-series Linux server VM on Azure Stack Hub. Když instalujete součásti serveru, budete pracovat se serverem přes SSH.As you install components for your server, you'll interact with the server via SSH. Další informace najdete v tématu použití veřejného klíče SSH.For more information, see Use an SSH public key.

  2. Vytvoření a registrace zařízení IoT EdgeCreate and register an IoT Edge Device

Příprava virtuálního počítače s podporou GPUPrepare a GPU-enabled VM

  1. Nainstalujte ovladače GPU NVIDA na server s N-Series Linux podle kroků v článku instalace ovladačů NVIDIA GPU pro virtuální počítače řady N-Series se systémem Linux.Install the NVIDA GPU Drivers on your N-series Linux server by following the steps in the article, Install NVIDIA GPU drivers on N-series VMs running Linux.

    Poznámka

    K instalaci softwaru použijete příkazový řádek bash.You'll use the bash command line to install your software. Poznamenejte si příkazy, protože použijete stejné příkazy k instalaci ovladačů do kontejneru běžícího v Docker na VIRTUÁLNÍm počítači s podporou GPU.Make a note of the commands since you'll use the same commands to install the drivers on the container running in Docker on your GPU-enabled VM

  2. Nainstalujte nejnovější IoT Edge runtime na server s N-Series Linux v centru Azure Stack.Install the latest IoT Edge runtime on your N-series Linux server in Azure Stack Hub. Pokyny najdete v tématu Instalace modulu runtime Azure IoT Edge v systémech Linux založených na Debian .For instructions, see Install the Azure IoT Edge runtime on Debian-based Linux systems

Instalace DockeruInstall Docker

Nainstalujte Docker na virtuální počítač s podporou GPU.Install Docker on your GPU-enabled VM. Chystáte se modul spustit z webu IoT Edge Marketplace v kontejneru na VIRTUÁLNÍm počítači.You're going to run the module from the IoT Edge marketplace in a container on the VM.

Je nutné nainstalovat Docker 19,02 nebo vyšší.You must install Docker 19.02 or greater. Modul runtime Docker teď podporuje grafické procesory NVIDIA.The Docker runtime now supports the NVIDIA GPUs. Další informace o bout GPU v Docker najdete v článku v dokumentaci Docker, Možnosti modulu runtime s pamětí, procesory a GPU.To learn more bout GPUs in Docker, see the article in the Docker docs, Runtime options with Memory, CPUs, and GPUs.

Instalace DockeruInstall Docker

Kontejnery Docker můžou běžet kdekoli, místně v datacentru zákazníka, v externím poskytovateli služeb nebo v cloudu v Azure.Docker containers can run anywhere, on-premises in the customer datacenter, in an external service provider or in the cloud, on Azure. Kontejnery imagí Docker mohou běžet nativně v systémech Linux a Windows.Docker image containers can run natively on Linux and Windows. Image Windows ale můžou běžet jenom na hostitelích s Windows a image Linux můžou běžet na hostitelích Linux a na hostitelích se systémem Windows (s využitím virtuálního počítače Hyper-V Linux), kde hostitel znamená Server nebo virtuální počítač.However, Windows images can run only on Windows hosts and Linux images can run on Linux hosts and Windows hosts (using a Hyper-V Linux VM, so far), where host means a server or a VM. Další informace najdete v tématu co je Docker?.For more information, see What is Docker?.

  1. Připojte se k serveru pro N-Series Linux pomocí klienta SSH.Connect to your N-series Linux server using your SSH client.

  2. Aktualizujte index a seznam apt.Update the apt index and lists.

    sudo apt-get update
    
  3. Načte nové verze existujících balíčků v počítači.Fetch the new versions of existing packages on the machine.

    sudo apt-get upgrade
    
  4. Nainstalujte závislosti potřebné k přidání úložiště apt Docker.Install dependencies required to add Docker's apt repository.

    sudo apt-get install apt-transport-https ca-certificates curl software-properties-common
    
  5. Přidat klíč GPG DockerAdd Docker's GPG key.

    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
    
  6. Přidejte úložiště apt Docker.Add Docker's apt repo.

    sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
    
  7. Aktualizujte index a seznamy apt a nainstalujte verzi Docker Community Edition.Update apt index and lists, and install Docker Community Edition.

    sudo apt-get update 
    sudo apt-get install docker-ce
    
  8. Ověřte instalaci kontrolou verze Docker.Verify install by checking the Docker version.

    docker -v
    
  9. Zpřístupněte dostupné prostředky GPU v Docker.Expose the available GPU resources in Docker.

    docker run -it --rm --gpus all ubuntu nvidia-smi
    

Získat položku z MarketplaceGet the item from the marketplace

Vraťte se do Azure Portal a přidejte model do svého hraničního zařízení pomocí webu iOT Marketplace.Return to the Azure portal and add the the model to your edge device using the iOT marketplace. Z nabídky vyberte modul Marketplace .Select Marketplace Module from the menu. A vyhledejte a Getting started with GPUs postupujte podle pokynů pro přidání modulu.And search for Getting started with GPUs, and follow the instructions to add the module.

Pokyny najdete v tématu Výběr zařízení a přidání modulů .For instructions see Select device and add modules

Povolení monitorováníEnable monitoring

  1. Stáhněte si Azure IoT Explorera připojte aplikaci k vašemu IoT Hub.Download Azure IoT explorer, and connect the application to your IoT Hub.

  2. Vyberte zařízení IoT a přejděte k telemetrie z navigační nabídky.Select your IoT Device and navigate to Telemetry from the navigation menu.

  3. Vyberte začít a začněte sledovat výstup ze zařízení IoT Edge.Select Start to begin monitoring output from the IoT Edge Device.

platná instalace

Monitorování modulu (volitelné)Monitor the module (Optional)

  1. Na paletě příkazů VS Code spusťte Azure IoT Hub: Select IoT Hub (Azure IoT Hub: Vybrat IoT Hub).In the VS Code command palette, run Azure IoT Hub: Select IoT Hub.

  2. Zvolte předplatné a centrum IoT obsahující zařízení IoT Edge, které chcete nakonfigurovat.Choose the subscription and IoT hub that contain the IoT Edge device that you want to configure. V takovém případě vyberte předplatné, které se používá k nasazení Azure Stack hraničního zařízení, a vyberte IoT Edge zařízení vytvořené pro Azure Stack hraniční zařízení.In this case, select the subscription used to deploy the Azure Stack Edge device, and select the IoT Edge device created for your Azure Stack Edge device. K tomu dochází při konfiguraci výpočetní kapacity prostřednictvím Azure Portal v předchozích krocích.This occurs when you configure compute via the Azure portal in the earlier steps.

  3. V Průzkumníku VS Code rozbalte část Azure IoT Hub.In the VS Code explorer, expand the Azure IoT Hub section. V části zařízení by se mělo zobrazit zařízení IoT Edge odpovídající vašemu zařízení Azure Stack Edge.Under Devices, you should see the IoT Edge device corresponding to your Azure Stack Edge device.

    1. Vyberte toto zařízení, klikněte pravým tlačítkem myši a vyberte možnost Spustit sledování integrovaného koncového bodu události.Select that device, right-click, and select Start Monitoring Built-in Event Endpoint.

    2. Přejděte na zařízení > moduly a měli byste vidět, že je spuštěný modul GPU .Go to Devices > Modules and you should see your GPU module running.

    3. VS Code terminál by měl také zobrazit IoT Hub události jako výstup monitorování pro zařízení Azure Stack Edge.The VS Code terminal should also show the IoT Hub events as the monitoring output for your Azure Stack Edge device.

    platná instalace je

    Zjistíte, že čas potřebný k provedení stejné sady operací (5000 iterací transformace obrazce) procesorem GPU je větší než procesor.You can see that the time taken to execute the same set of operations (5000 iterations of shape transformation) by GPU is lot lesser than it is for CPU.

Další krokyNext Steps