GPU-t támogató IoT-modul üzembe helyezése Azure Stack központbanDeploy a GPU enabled IoT module on Azure Stack Hub

A GPU-t támogató Azure Stack hubhoz a processzor-igényes modulokat telepítheti a IoT Edge futtató Linux-eszközökre.With a GPU-enabled Azure Stack Hub, you can deploy processor-intensive modules to Linux devices running at the IoT Edge. A GPU-ra optimalizált virtuálisgép-méretek olyan speciális virtuális gépek, amelyek egy vagy több NVIDIA GPU-val érhetők el.GPU optimized VM sizes are specialized VMs available with single or multiple NVIDIA GPUs. Ebből a cikkből megtudhatja, hogyan használhatók a GPU-ra optimalizált virtuális gépek a nagy számítási igényű, a grafikus igényű és a vizualizációs feladatok futtatásához.In this article, learn to use GPU optimized VMs to run compute-intensive, graphics-intensive, and visualization workloads.

Mielőtt elkezdené, szüksége lesz egy Azure Active Directory (Azure AD) előfizetésre, amely hozzáféréssel rendelkezik a globális Azure-hoz és a Azure Stack hubhoz, egy Azure Container Registry (ACR) és egy IoT hubhoz.Before you start, you will need an Azure Active Directory (Azure AD) subscription with access to global Azure and Azure Stack Hub, an Azure Container Registry (ACR), and an IoT hub.

Ebben a cikkben:In this article, you:

  • Telepítsen egy GPU-t támogató linuxos virtuális gépet, és telepítse a megfelelő illesztőprogramokat.Install an GPU-enabled Linux VM and install the correct drivers.
  • Telepítse a Docker-t, és engedélyezze a GPU-t a futtatókörnyezetben.Install Docker and enable the GPU in the runtime.
  • Kapcsolódjon a IoT-eszközhöz az iOT hub-hoz, és telepítse a iOT Marketplace modellből: Getting started with GPUs .Connect your IoT device to your iOT Hub and install from the iOT marketplace the model: Getting started with GPUs.
  • Az eszközt az Azure IoT Explorer használatával telepítheti és figyelheti egy helyi gépről.Install and monitor your device from a local machine using Azure IoT explorer.
  • És opcionálisan telepítheti és figyelheti az eszközt az Azure IoT bővítmény használatával a Visual Studio Code-ban.And optionally, install and monitor your device using the Azure IoT extension in Visual Studio Code.

ElőfeltételekPrerequisites

A következő erőforrásokkal kell rendelkeznie a Azure Stack hub-példányban, a globális Azure-ban és a helyi fejlesztési gépen.You'll need to have the following resources in place in your Azure Stack Hub instance, global Azure, and on your local development machine.

Azure Stack hub és az AzureAzure Stack Hub and Azure

  • Egy előfizetést felhasználóként Azure Active Directory (Azure AD) használatával egy Azure Stack hub integrált rendszerében egy NVIDA GPU-val.A subscription as a user using Azure Active Directory (Azure AD) in an Azure Stack Hub Integrated System with an NVIDA GPU. A következő zsetonok működnek az iOT hub-val:The following chips work with iOT Hub:

    • NCv3NCv3
    • NCas_v4NCas_v4

    További információ a Azure Stack hub GPU-ról: Graphics Processing Unit (GPU) VM Azure stack hub-on.For more information about GPUs on Azure Stack Hub, see Graphics processing unit (GPU) VM on Azure Stack Hub.

  • Globális Azure-előfizetés.A global Azure subscription. Ha nem rendelkezik globális Azure-előfizetéssel, hozzon létre egy ingyenes fiókot a Kezdés előtt.If you don't have a global Azure subscription, create a free account before you begin.

  • Egy Azure Container Registry (ACR).An Azure Container Registry (ACR). Jegyezze fel az ACR bejelentkezési kiszolgálóját, a felhasználónevet és a jelszót.Make a note of the ACR sign-in server, username, and password.

  • Egy ingyenes vagy standard szintű IoT hub a globális Azure-ban.A free or standard-tier IoT hub in global Azure.

Egy fejlesztői gépA development machine

  • A fejlesztési beállításoktól függően saját számítógépet vagy virtuális gépet is használhat.You can use your own computer or a virtual machine, depending on your development preferences. A fejlesztői gépnek támogatnia kell a beágyazott virtualizálás szolgáltatást.Your development machine will need to support nested virtualization. Ez a funkció szükséges a Docker, a jelen cikkben használt tároló motor futtatásához.This capability is necessary for running Docker, the container engine used in this article.

  • A fejlesztői gépnek a következő erőforrásokra lesz szüksége:Your development machine will need the following resources:

IoT Edge-eszköz regisztrálásaRegister an IoT Edge device

Használjon külön eszközt a IoT Edge eszköz üzemeltetéséhez.Use a separate device to host your IoT Edge device. Egy különálló eszköz használata elválasztja a fejlesztői gép és IoT Edge eszköz pontosabban tükrözi az üzembe helyezési forgatókönyvet.Using a separate device will provide a separation between your development machine and IoT Edge device more accurately mirrors a deployment scenario.

IoT Edge-eszköz létrehozása az Azure-ban Linux rendszerű virtuális géppel:Create an IoT Edge device in Azure with a Linux VM:

  1. Hozzon létre egy N sorozatú Linux Server rendszerű virtuális gépet Azure stack hub-on.Create an N-series Linux server VM on Azure Stack Hub. A kiszolgálóhoz tartozó összetevők telepítésekor a kiszolgáló SSH-n keresztül fog működni.As you install components for your server, you'll interact with the server via SSH. További információ: nyilvános SSH-kulcs használata.For more information, see Use an SSH public key.

  2. IoT Edge-eszköz létrehozása és regisztrálásaCreate and register an IoT Edge Device

GPU-t támogató virtuális gép előkészítésePrepare a GPU-enabled VM

  1. Telepítse a NVIDA GPU-illesztőprogramokat az N sorozatú Linux-kiszolgálóra a cikk lépéseit követve, telepítse az NVIDIA GPU-illesztőprogramokat a Linux rendszerű n sorozatú virtuális gépekre.Install the NVIDA GPU Drivers on your N-series Linux server by following the steps in the article, Install NVIDIA GPU drivers on N-series VMs running Linux.

    Megjegyzés

    A szoftver telepítéséhez a bash parancssorát fogja használni.You'll use the bash command line to install your software. Jegyezze fel a parancsokat, mivel ugyanazokat a parancsokat fogja használni az illesztőprogramok telepítéséhez a Docker-t futtató tárolón a GPU-t támogató virtuális gépenMake a note of the commands since you'll use the same commands to install the drivers on the container running in Docker on your GPU-enabled VM

  2. Telepítse a legújabb IoT Edge futtatókörnyezetet az N sorozatú Linux-kiszolgálón Azure Stack hub-ban.Install the latest IoT Edge runtime on your N-series Linux server in Azure Stack Hub. Útmutatásért lásd: a Azure IoT Edge futtatókörnyezet telepítése Debian-alapú Linux rendszerekenFor instructions, see Install the Azure IoT Edge runtime on Debian-based Linux systems

A Docker telepítéseInstall Docker

Telepítse a Docker-t a GPU-t támogató virtuális gépre.Install Docker on your GPU-enabled VM. A modult a IoT Edge piactéren fogja futtatni a virtuális gép egy tárolójában.You're going to run the module from the IoT Edge marketplace in a container on the VM.

Telepítenie kell a Docker 19,02-es vagy újabb telepítését.You must install Docker 19.02 or greater. A Docker Runtime mostantól támogatja az NVIDIA GPU-ket.The Docker runtime now supports the NVIDIA GPUs. Ha többet szeretne megtudni a Docker-beli GPU-k megismeréséről, tekintse meg a következő cikket: Docker docs, Futásidejű beállítások a memóriával, a processzorokkal és a GPU-k.To learn more bout GPUs in Docker, see the article in the Docker docs, Runtime options with Memory, CPUs, and GPUs.

A Docker telepítéseInstall Docker

A Docker-tárolók bárhol, a helyszíni adatközpontban, egy külső szolgáltatón vagy a felhőben, az Azure-on futhatnak.Docker containers can run anywhere, on-premises in the customer datacenter, in an external service provider or in the cloud, on Azure. A Docker-rendszerkép tárolói natív módon futtathatók Linux és Windows rendszeren.Docker image containers can run natively on Linux and Windows. A Windows-lemezképek azonban csak Windows-gazdagépeken és Linux-rendszerképeken futtathatók Linux-gazdagépeken és Windows-gazdagépeken (eddig egy Hyper-V Linux rendszerű virtuális gép használatával), ahol a gazdagép egy kiszolgálót vagy egy virtuális gépet jelent.However, Windows images can run only on Windows hosts and Linux images can run on Linux hosts and Windows hosts (using a Hyper-V Linux VM, so far), where host means a server or a VM. További információ: Mi az a Docker?.For more information, see What is Docker?.

  1. Csatlakozzon az N-sorozatú Linux-kiszolgálóhoz az SSH-ügyfél használatával.Connect to your N-series Linux server using your SSH client.

  2. Frissítse az apt-indexet és-listát.Update the apt index and lists.

    sudo apt-get update
    
  3. A meglévő csomagok új verzióinak beolvasása a gépen.Fetch the new versions of existing packages on the machine.

    sudo apt-get upgrade
    
  4. Telepítse a Docker apt-tárházának hozzáadásához szükséges függőségeket.Install dependencies required to add Docker's apt repository.

    sudo apt-get install apt-transport-https ca-certificates curl software-properties-common
    
  5. Adja hozzá a Docker GPG-kulcsát.Add Docker's GPG key.

    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
    
  6. Adja hozzá a Docker apt-tárházát.Add Docker's apt repo.

    sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
    
  7. Frissítse az apt indexet és a listát, és telepítse a Docker Community Editiont.Update apt index and lists, and install Docker Community Edition.

    sudo apt-get update 
    sudo apt-get install docker-ce
    
  8. Ellenőrizze a telepítést a Docker-verzió ellenőrzésével.Verify install by checking the Docker version.

    docker -v
    
  9. Tegye elérhetővé a GPU-forrásokat a Docker-ben.Expose the available GPU resources in Docker.

    docker run -it --rm --gpus all ubuntu nvidia-smi
    

Az elem beolvasása a piactérenGet the item from the marketplace

Térjen vissza a Azure Portalhoz, és adja hozzá a modellt a peremhálózati eszközéhez a iOT Marketplace használatával.Return to the Azure portal and add the the model to your edge device using the iOT marketplace. Válassza ki a piactér modult a menüből.Select Marketplace Module from the menu. És keresse meg a kifejezést Getting started with GPUs , és kövesse az utasításokat a modul hozzáadásához.And search for Getting started with GPUs, and follow the instructions to add the module.

Útmutatásért lásd: eszköz kiválasztása és modulok hozzáadásaFor instructions see Select device and add modules

Monitorozás engedélyezéseEnable monitoring

  1. Töltse le az Azure IoT Exploreralkalmazást, és kapcsolódjon az alkalmazáshoz a IoT hub.Download Azure IoT explorer, and connect the application to your IoT Hub.

  2. Válassza ki a IoT eszközt, és navigáljon a telemetria elemre a navigációs menüből.Select your IoT Device and navigate to Telemetry from the navigation menu.

  3. A Start gombra kattintva megkezdheti a IoT Edge eszköz kimenetének figyelését.Select Start to begin monitoring output from the IoT Edge Device.

érvényes telepítés

A modul figyelése (nem kötelező)Monitor the module (Optional)

  1. A VS Code parancskatalógusában futtassa az Azure IoT Hub: Select IoT Hub (Azure IoT Hub: IoT Hub kiválasztása) parancsot.In the VS Code command palette, run Azure IoT Hub: Select IoT Hub.

  2. Válassza ki a konfigurálni kívánt IoT Edge-eszközt tartalmazó előfizetést és IoT Hubot.Choose the subscription and IoT hub that contain the IoT Edge device that you want to configure. Ebben az esetben válassza ki az Azure Stack Edge-eszköz telepítéséhez használt előfizetést, és válassza ki az Azure Stack Edge-eszközhöz létrehozott IoT Edge eszközt.In this case, select the subscription used to deploy the Azure Stack Edge device, and select the IoT Edge device created for your Azure Stack Edge device. Ez akkor fordul elő, ha a számítást a korábbi lépések Azure Portalján keresztül konfigurálja.This occurs when you configure compute via the Azure portal in the earlier steps.

  3. A VS Code Explorerben bontsa ki az Azure IoT Hub szakaszt.In the VS Code explorer, expand the Azure IoT Hub section. Az eszközök területen az Azure stack Edge-eszköznek megfelelő IoT Edge eszköznek kell megjelennie.Under Devices, you should see the IoT Edge device corresponding to your Azure Stack Edge device.

    1. Válassza ki az eszközt, kattintson a jobb gombbal, majd válassza a figyelés beépített esemény végpontja lehetőséget.Select that device, right-click, and select Start Monitoring Built-in Event Endpoint.

    2. Nyissa meg az eszközök > modulokat , és ellenőrizze, hogy fut-e a GPU-modul .Go to Devices > Modules and you should see your GPU module running.

    3. A VS Code terminálnak a Azure Stack Edge-eszköz figyelési kimenetének IoT Hubi eseményeit is meg kell jelenítenie.The VS Code terminal should also show the IoT Hub events as the monitoring output for your Azure Stack Edge device.

    érvényes telepítés

    Láthatja, hogy a GPU által az azonos műveletek végrehajtásához szükséges idő (5000-es ismétlés) nem sokkal kisebb, mint a CPU esetében.You can see that the time taken to execute the same set of operations (5000 iterations of shape transformation) by GPU is lot lesser than it is for CPU.

Következő lépésekNext Steps