Oktatóanyag: gépi tanulási modell üzembe helyezése a tervezővelTutorial: Deploy a machine learning model with the designer

Az oktatóanyag első részében létrehozott prediktív modell üzembe helyezésével mások számára is lehetővé teheti a használatát.You can deploy the predictive model developed in part one of the tutorial to give others a chance to use it. Az első részben betanított egy modellt.In part one, you trained your model. Most itt az ideje, hogy felhasználói bevitel alapján készítsen előrejelzéseket.Now, it's time to generate predictions based on user input. Az oktatóanyag ezen részében a következőket fogja elsajátítani:In this part of the tutorial, you will:

  • Valós idejű következtetési folyamat létrehozása.Create a real-time inference pipeline.
  • Hozzon létre egy következtetésben lévő fürtöt.Create an inferencing cluster.
  • A valós idejű végpont üzembe helyezése.Deploy the real-time endpoint.
  • Tesztelje a valós idejű végpontot.Test the real-time endpoint.

ElőfeltételekPrerequisites

Az oktatóanyag első részében megismerheti, hogyan végezheti el a gépi tanulási modellek betanítását és kiértékelését a tervezőben.Complete part one of the tutorial to learn how to train and score a machine learning model in the designer.

Fontos

Ha nem látja a dokumentumban említett grafikus elemeket, például a Studióban vagy a Designerben lévő gombokat, előfordulhat, hogy nem rendelkezik a megfelelő szintű engedélyekkel a munkaterülethez.If you do not see graphical elements mentioned in this document, such as buttons in studio or designer, you may not have the right level of permissions to the workspace. Forduljon az Azure-előfizetés rendszergazdájához, és győződjön meg arról, hogy megfelelő szintű hozzáférési jogosultsággal rendelkezik.Please contact your Azure subscription administrator to verify that you have been granted the correct level of access. További információ: felhasználók és szerepkörök kezelése.For more information, see Manage users and roles.

Valós idejű következtetési folyamat létrehozásaCreate a real-time inference pipeline

A folyamat üzembe helyezéséhez először át kell alakítania a betanítási folyamatot egy valós idejű következtetési folyamatba.To deploy your pipeline, you must first convert the training pipeline into a real-time inference pipeline. Ez a folyamat eltávolítja a betanítási modulokat, és hozzáadja a webszolgáltatás bemeneteit és kimeneteit a kérelmek kezeléséhez.This process removes training modules and adds web service inputs and outputs to handle requests.

Valós idejű következtetési folyamat létrehozásaCreate a real-time inference pipeline

  1. A folyamat fölötti vászonnál válassza a következtetés létrehozása folyamat > valós idejű következtetési folyamat lehetőséget.Above the pipeline canvas, select Create inference pipeline > Real-time inference pipeline.

    Képernyőfelvétel a folyamat létrehozása gombról

    A folyamatnak most így kell kinéznie:Your pipeline should now look like this:

    Képernyőfelvétel a folyamat várható konfigurációjának megjelenítéséről az üzembe helyezés előkészítése után

    Amikor kiválasztja a következtetési folyamat létrehozása lehetőséget, több dolog történik:When you select Create inference pipeline, several things happen:

    • A betanított modellt a modul palettáján adatkészlet -modulként tárolja a rendszer.The trained model is stored as a Dataset module in the module palette. Az adatkészletek szakaszban találja.You can find it under My Datasets.
    • A képzési modulok, például a betanítási modell és a felosztott adategységek törlődnek.Training modules like Train Model and Split Data are removed.
    • A rendszer visszaadja a mentett betanított modellt a folyamatba.The saved trained model is added back into the pipeline.
    • A webszolgáltatás bemeneti és webszolgáltatás-kimeneti moduljai hozzáadódnak a szolgáltatáshoz.Web Service Input and Web Service Output modules are added. Ezek a modulok azt mutatják be, hogy a felhasználói adatcsatorna hol adja meg a folyamatotThese modules show where user data enters the pipeline and where data is returned.

    Megjegyzés

    Alapértelmezés szerint a webszolgáltatás bemenete ugyanazt az adatsémát fogja várni, mint a prediktív folyamat létrehozásához használt betanítási adatok.By default, the Web Service Input will expect the same data schema as the training data used to create the predictive pipeline. Ebben az esetben a séma tartalmazza az árat.In this scenario, price is included in the schema. Az előrejelzés során azonban az ár nem használható faktorként.However, price isn't used as a factor during prediction.

  2. Válassza a Submit (Küldés) lehetőséget, és használja ugyanazt a számítási célt és kísérletet, amelyet az első részben használt.Select Submit, and use the same compute target and experiment that you used in part one.

    Ha ez az első futtatás, akár 20 percet is igénybe vehet, amíg a folyamat befejezi a futását.If this is the first run, it may take up to 20 minutes for your pipeline to finish running. Az alapértelmezett számítási beállításokhoz a csomópont minimális mérete 0, ami azt jelenti, hogy a tervezőnek üresjárat után le kell foglalnia az erőforrásokat.The default compute settings have a minimum node size of 0, which means that the designer must allocate resources after being idle. Az ismétlődő folyamat-futtatások kevesebb időt vesznek igénybe, mivel a számítási erőforrások már le vannak foglalva.Repeated pipeline runs will take less time since the compute resources are already allocated. Emellett a tervező az egyes modulok gyorsítótárazott eredményeit használja a hatékonyság növelése érdekében.Additionally, the designer uses cached results for each module to further improve efficiency.

  3. Válassza az Üzembe helyezés lehetőséget.Select Deploy.

Következtetési fürt létrehozásaCreate an inferencing cluster

A megjelenő párbeszédpanelen bármelyik meglévő Azure Kubernetes Service-(ak-) fürtből kiválaszthatja a modell üzembe helyezését.In the dialog box that appears, you can select from any existing Azure Kubernetes Service (AKS) clusters to deploy your model to. Ha nem rendelkezik AK-fürttel, a következő lépésekkel hozhat létre egyet.If you don't have an AKS cluster, use the following steps to create one.

  1. A számítási lapon megjelenő párbeszédpanelen kattintson a számítás elemre.Select Compute in the dialog box that appears to go to the Compute page.

  2. A navigációs menüszalagon válassza a következtetési fürtök > + új lehetőséget.On the navigation ribbon, select Inference Clusters > + New.

    Az új következtetési fürt ablaktábla beszerzését bemutató képernyőkép

  3. A következtetési fürt ablaktáblán konfigurálja az új Kubernetes szolgáltatást.In the inference cluster pane, configure a new Kubernetes Service.

  4. Írja be a következőt: Kaba-számítás a számítási névhez.Enter aks-compute for the Compute name.

  5. Válasszon egy közeli régiót, amely elérhető a régió számára.Select a nearby region that's available for the Region.

  6. Válassza a Létrehozás lehetőséget.Select Create.

    Megjegyzés

    Egy új AK-szolgáltatás létrehozása körülbelül 15 percet vesz igénybe.It takes approximately 15 minutes to create a new AKS service. A kiépítési állapotot megtekintheti a következtetési fürtök oldalon.You can check the provisioning state on the Inference Clusters page.

A valós idejű végpont üzembe helyezéseDeploy the real-time endpoint

Miután az AK-szolgáltatás befejezte a kiépítést, térjen vissza a valós idejű következtetési folyamatra az üzembe helyezés befejezéséhez.After your AKS service has finished provisioning, return to the real-time inferencing pipeline to complete deployment.

  1. Válassza a vászon fölötti üzembe helyezés lehetőséget.Select Deploy above the canvas.

  2. Válassza az új valós idejű végpont telepítése lehetőséget.Select Deploy new real-time endpoint.

  3. Válassza ki a létrehozott AK-fürtöt.Select the AKS cluster you created.

    Az új valós idejű végpont beállítását bemutató képernyőkép

    A valós idejű végpont speciális beállítása is megváltoztatható.You can also change Advanced setting for your real-time endpoint.

    Speciális beállításAdvanced setting LeírásDescription
    Application Insights diagnosztika és adatgyűjtés engedélyezéseEnable Application Insights diagnostics and data collection Azt határozza meg, hogy engedélyezi-e az Azure Application Insights az adatok gyűjtését az üzembe helyezett végpontokról.Whether to enable Azure Application Insights to collect data from the deployed endpoints.
    Alapértelmezés szerint: falseBy default: false
    Pontozási időkorlátScoring timeout A webszolgáltatásra irányuló pontozási hívások kényszerített időkorlátja ezredmásodpercben.A timeout in milliseconds to enforce for scoring calls to the web service.
    Alapértelmezés szerint: 60000By default: 60000
    Automatikus méretezés engedélyezveAuto scale enabled Azt határozza meg, hogy engedélyezi-e az automatikus skálázást a webszolgáltatáshoz.Whether to enable autoscaling for the web service.
    Alapértelmezés szerint: trueBy default: true
    Replikák minimális számaMin replicas A webszolgáltatás automatikus skálázásakor használandó tárolók minimális száma.The minimum number of containers to use when autoscaling this web service.
    Alapértelmezés szerint: 1By default: 1
    Replikák maximális számaMax replicas A webszolgáltatás automatikus skálázásakor használandó tárolók maximális száma.The maximum number of containers to use when autoscaling this web service.
    Alapértelmezés szerint: 10By default: 10
    Cél kihasználtságaTarget utilization A cél kihasználtsága (az 100-as százalékban kifejezve), amelyet az autoskálázásnak meg kell próbálnia fenntartani a webszolgáltatás számára.The target utilization (in percent out of 100) that the autoscaler should attempt to maintain for this web service.
    Alapértelmezés szerint: 70By default: 70
    Frissítési időszakRefresh period Az autoskálázás milyen gyakran próbálkozik a webszolgáltatás skálázásával.How often (in seconds) the autoscaler attempts to scale this web service.
    Alapértelmezés szerint: 1By default: 1
    CPU-foglalási kapacitásCPU reserve capacity A webszolgáltatás számára lefoglalható CPU-magok száma.The number of CPU cores to allocate for this web service.
    Alapértelmezés szerint: 0,1By default: 0.1
    Memória foglalási kapacitásaMemory reserve capacity A webszolgáltatás számára lefoglalható memória mennyisége (GB-ban).The amount of memory (in GB) to allocate for this web service.
    Alapértelmezés szerint: 0,5By default: 0.5
  4. Válassza az Üzembe helyezés lehetőséget.Select Deploy.

    Az üzembe helyezés befejeződése után a vászon fölötti sikeres értesítés jelenik meg.A success notification above the canvas appears after deployment finishes. Néhány percet is igénybe vehet.It might take a few minutes.

Tipp

Az Azure Container instance (ACI) szolgáltatásban is üzembe helyezhető, ha a valós idejű végpont-beállítás mezőben a számítási típushoz az Azure Container instance elemet választja.You can also deploy to Azure Container Instance (ACI) if you select Azure Container Instance for Compute type in the real-time endpoint setting box. Az Azure Container instance tesztelésre vagy fejlesztésre szolgál.Azure Container Instance is used for testing or development. Az ACI-t alacsony léptékű CPU-alapú számítási feladatokhoz használhatja, amelyek kevesebb mint 48 GB RAM memóriát igényelnek.Use ACI for low-scale CPU-based workloads that require less than 48 GB of RAM.

A valós idejű végpont teszteléseTest the real-time endpoint

Az üzembe helyezés befejeződése után megtekintheti a valós idejű végpontot a végpontok lapon.After deployment finishes, you can view your real-time endpoint by going to the Endpoints page.

  1. A végpontok lapon válassza ki a telepített végpontot.On the Endpoints page, select the endpoint you deployed.

    A részletek lapon további információkat tekinthet meg, például a REST URI-t, a hencegés definícióját, az állapotot és a címkéket.In the Details tab, you can see more information such as the REST URI, Swagger definition, status, and tags.

    A felhasználás lapon megtalálhatja a minta felhasználási kódját, a biztonsági kulcsokat, és beállíthatja a hitelesítési módszereket.In the Consume tab, you can find sample consumption code, security keys, and set authentication methods.

    A központi telepítési naplók lapon megtekintheti a valós idejű végpont részletes üzembe helyezési naplóit.In the Deployment logs tab, you can find the detailed deployment logs of your real-time endpoint.

  2. A végpont teszteléséhez lépjen a test ( teszt ) lapra. Itt megadhatja a tesztelési adatokat, és kiválaszthatja a végpont kimenetének ellenőrzése tesztet .To test your endpoint, go to the Test tab. From here, you can enter test data and select Test verify the output of your endpoint.

További információ a webszolgáltatás használatáról: a webszolgáltatásként üzembe helyezett modell felhasználásaFor more information on consuming your web service, see Consume a model deployed as a webservice

KorlátozásokLimitations

Ha módosításokat hajt végre a betanítási folyamat során, akkor újra el kell küldenie a betanítási folyamatot, frissítenie kell a következtetési folyamatot, és újra le kell futtatnia a következtetési folyamatot.If you make some modifications in your training pipeline, you should resubmit the training pipeline, Update the inference pipeline and run the inference pipeline again.

Vegye figyelembe, hogy csak a betanított modellek lesznek frissítve a következtetési folyamatban, míg az adatátalakítás nem lesz frissítve.Note that only trained models will be updated in the inference pipeline, while data transformation will not be updated.

A frissített átalakítás a következtetési folyamatban való használatához regisztrálnia kell az átalakítási modul átalakítási kimenetét adatkészletként.To use the updated transformation in inference pipeline, you need to register the transformation output of the transformation module as dataset.

Az átalakítási adatkészlet regisztrálását bemutató képernyőkép

Ezután manuálisan cserélje le a TD- modult a következtetési folyamatba a regisztrált adatkészlettel.Then manually replace the TD- module in inference pipeline with the registered dataset.

Az átalakítási modul lecserélését bemutató képernyőkép

Ezután elküldheti a következtetési folyamatot a frissített modellel és átalakítással, és üzembe helyezheti.Then you can submit the inference pipeline with the updated model and transformation, and deploy.

Az erőforrások eltávolításaClean up resources

Fontos

A létrehozott erőforrásokat felhasználhatja más Azure Machine Learning-oktatóanyagok és útmutatók előfeltételeiként.You can use the resources that you created as prerequisites for other Azure Machine Learning tutorials and how-to articles.

Mindent törölniDelete everything

Ha nem tervezi a létrehozott bármit használni, törölje a teljes erőforráscsoportot, így nem számítunk fel díjat.If you don't plan to use anything that you created, delete the entire resource group so you don't incur any charges.

  1. A Azure Portal az ablak bal oldalán válassza az erőforráscsoportok lehetőséget.In the Azure portal, select Resource groups on the left side of the window.

    Erőforráscsoport törlése az Azure Portalon

  2. A listából válassza ki a létrehozott erőforráscsoportot.In the list, select the resource group that you created.

  3. Válassza az Erőforráscsoport törlése elemet.Select Delete resource group.

Az erőforráscsoport törlése a tervezőben létrehozott összes erőforrást is törli.Deleting the resource group also deletes all resources that you created in the designer.

Egyedi eszközök törléseDelete individual assets

A tervezőben, ahol létrehozta a kísérletet, törölje az egyes objektumokat úgy, hogy kiválasztja őket, majd a Törlés gombra kattint.In the designer where you created your experiment, delete individual assets by selecting them and then selecting the Delete button.

Az itt létrehozott számítási cél automatikusan automatikus méretezést végez a nulla csomópontokra, amikor az nincs használatban.The compute target that you created here automatically autoscales to zero nodes when it's not being used. Ez a művelet a díjak minimalizálásához szükséges.This action is taken to minimize charges. Ha törölni szeretné a számítási célt, hajtsa végre a következő lépéseket:If you want to delete the compute target, take these steps:

Eszközök törlése

Az adatkészletek regisztrációját a munkaterületről törölheti, ha kiválasztja az egyes adatkészleteket, és kiválasztja a Regisztráció törlése lehetőséget.You can unregister datasets from your workspace by selecting each dataset and selecting Unregister.

Adatkészlet regisztrációjának törlése

Az adatkészletek törléséhez nyissa meg a Storage-fiókot a Azure Portal vagy Azure Storage Explorer használatával, és manuálisan törölje ezeket az eszközöket.To delete a dataset, go to the storage account by using the Azure portal or Azure Storage Explorer and manually delete those assets.

Következő lépésekNext steps

Ebben az oktatóanyagban megtanulta, hogyan hozhat létre, helyezhet üzembe és használhat fel gépi tanulási modellt a tervezőben.In this tutorial, you learned the key steps in how to create, deploy, and consume a machine learning model in the designer. Ha többet szeretne megtudni a tervező használatáról, tekintse meg az alábbi hivatkozásokat:To learn more about how you can use the designer see the following links: