A Azure Machine Learning működése: architektúra és fogalmakHow Azure Machine Learning works: Architecture and concepts

Ismerje meg a Azure Machine learningarchitektúráját és fogalmait.Learn about the architecture and concepts for Azure Machine Learning. Ez a cikk az összetevők magas szintű megismerését és azok együttműködésének módját ismerteti a gépi tanulási modellek létrehozásának, üzembe helyezésének és karbantartásának folyamatában.This article gives you a high-level understanding of the components and how they work together to assist in the process of building, deploying, and maintaining machine learning models.

MunkaterületWorkspace

A Machine learning-munkaterület a Azure Machine learning legfelső szintű erőforrása.A machine learning workspace is the top-level resource for Azure Machine Learning.

Ábra: a munkaterület és összetevői Azure Machine Learning architektúrája

A munkaterület a következő központi hely:The workspace is the centralized place to:

A munkaterület más Azure-erőforrásokat is tartalmaz, amelyeket a munkaterület használ:A workspace includes other Azure resources that are used by the workspace:

  • Azure Container Registry (ACR): regisztrálja a betanítás során használt Docker-tárolókat, és amikor üzembe helyez egy modellt.Azure Container Registry (ACR): Registers docker containers that you use during training and when you deploy a model. A költségek csökkentése érdekében az ACR csak a telepítési lemezképek létrehozásakor jön létre.To minimize costs, ACR is only created when deployment images are created.
  • Azure Storage-fiók: a munkaterület alapértelmezett adattára.Azure Storage account: Is used as the default datastore for the workspace. A Azure Machine Learning számítási példányokhoz használt Jupyter-jegyzetfüzeteket is itt tárolja.Jupyter notebooks that are used with your Azure Machine Learning compute instances are stored here as well.
  • Azure Application Insights: a modellekkel kapcsolatos figyelési információkat tárolja.Azure Application Insights: Stores monitoring information about your models.
  • Azure Key Vault: a számítási célok és a munkaterület által igényelt egyéb bizalmas információk által használt titkokat tárolja.Azure Key Vault: Stores secrets that are used by compute targets and other sensitive information that's needed by the workspace.

A munkaterületeket másokkal is megoszthatja.You can share a workspace with others.

KiszámítjaComputes

A számítási cél bármely olyan számítógép vagy gép, amelyet a betanítási parancsfájl futtatásához vagy a szolgáltatás központi telepítésének üzemeltetéséhez használ.A compute target is any machine or set of machines you use to run your training script or host your service deployment. Számítási célként a helyi gépet vagy egy távoli számítási erőforrást is használhat.You can use your local machine or a remote compute resource as a compute target. A számítási célokkal megkezdheti a képzést a helyi gépen, majd kibővítheti a felhőt a betanítási szkript módosítása nélkül.With compute targets, you can start training on your local machine and then scale out to the cloud without changing your training script.

A Azure Machine Learning a gépi tanulási feladatokhoz konfigurált két teljes körűen felügyelt felhőalapú virtuális gépet (VM) mutatja be:Azure Machine Learning introduces two fully managed cloud-based virtual machines (VM) that are configured for machine learning tasks:

  • Számítási példány: a számítási példány egy olyan virtuális gép, amely a gépi tanuláshoz telepített több eszközt és környezetet is tartalmaz.Compute instance: A compute instance is a VM that includes multiple tools and environments installed for machine learning. A számítási példány elsődleges használata a fejlesztési munkaállomás számára szükséges.The primary use of a compute instance is for your development workstation. Megkezdheti a telepítés megkezdése nélkül megjelenő minta-jegyzetfüzetek futtatását.You can start running sample notebooks with no setup required. A számítási példányok számítási célként is használhatók a betanítási és a következtetési feladatokhoz.A compute instance can also be used as a compute target for training and inferencing jobs.

  • Számítási fürtök: a számítási fürtök több csomópontos skálázási képességekkel rendelkező virtuális gépekből álló fürtök.Compute clusters: Compute clusters are a cluster of VMs with multi-node scaling capabilities. A számítási fürtök jobban illeszkednek a nagyméretű feladatok és az éles számítási célokhoz.Compute clusters are better suited for compute targets for large jobs and production. A fürt automatikusan méretezi a feladatokat, amikor elküld egy feladatot.The cluster scales up automatically when a job is submitted. Használjon képzési számítási célt vagy fejlesztési/tesztelési célú üzembe helyezést.Use as a training compute target or for dev/test deployment.

A számítási célok betanításával kapcsolatos további információkért lásd: számítási célok betanítása.For more information about training compute targets, see Training compute targets. További információ az üzembe helyezési számítási célokról: telepítési célok.For more information about deployment compute targets, see Deployment targets.

Adatkészletek és adattárolókDatasets and datastores

Azure Machine learning adatkészletek megkönnyítik az adataik elérését és a velük való munkát.Azure Machine Learning Datasets make it easier to access and work with your data. Adatkészlet létrehozásával az adatforrás helyére mutató hivatkozást hozhat létre, valamint a metaadatok másolatát is.By creating a dataset, you create a reference to the data source location along with a copy of its metadata. Mivel az adatok a meglévő helyükön maradnak, nem számítunk fel extra tárolási költséget, és nem kockáztatjuk az adatforrások integritását.Because the data remains in its existing location, you incur no extra storage cost, and don't risk the integrity of your data sources.

További információ: Azure Machine learning adatkészletek létrehozása és regisztrálása.For more information, see Create and register Azure Machine Learning Datasets. Az adatkészletek használatával kapcsolatos további példákért tekintse meg a minta jegyzetfüzeteket.For more examples using Datasets, see the sample notebooks.

Az adatkészletek az adattárakat használják az Azure Storage- szolgáltatásokhoz való biztonságos kapcsolódásra.Datasets use datastores to securely connect to your Azure storage services. Az adattárolók a hitelesítési hitelesítő adatok és az eredeti adatforrások integritásának veszélyeztetése nélkül tárolják a kapcsolatok adatait.Datastores store connection information without putting your authentication credentials and the integrity of your original data source at risk. A kapcsolati adatokat, például az előfizetési AZONOSÍTÓját és a jogkivonat-engedélyezést a munkaterülethez társított Key Vault tárolják, így biztonságosan hozzáférhet a tárolóhoz anélkül, hogy a parancsfájlban rögzített kódokat kellene megtennie.They store connection information, like your subscription ID and token authorization in your Key Vault associated with the workspace, so you can securely access your storage without having to hard code them in your script.

KörnyezetekEnvironments

Munkaterület > KörnyezetekWorkspace > Environments

A környezet az a környezet beágyazása, ahol a gépi tanulási modell betanítása vagy pontozása zajlik.An environment is the encapsulation of the environment where training or scoring of your machine learning model happens. A környezet meghatározza a Python-csomagokat, a környezeti változókat és a szoftver beállításait a képzés és a pontozási szkriptek köré.The environment specifies the Python packages, environment variables, and software settings around your training and scoring scripts.

A kódok használatával kapcsolatban tekintse meg a környezetek használatárólszóló témakör "környezetek kezelése" című szakaszát.For code samples, see the "Manage environments" section of How to use environments.

KísérletekExperiments

Munkaterület > KísérletekWorkspace > Experiments

A kísérlet egy adott parancsfájlból származó számos Futtatás csoportosítása.An experiment is a grouping of many runs from a specified script. Mindig egy munkaterülethez tartozik.It always belongs to a workspace. Futtatáskor a kísérlet nevét adja meg.When you submit a run, you provide an experiment name. A futtatással kapcsolatos információkat a kísérlet alatt tárolja a rendszer.Information for the run is stored under that experiment. Ha a név nem létezik a kísérlet elküldésekor, automatikusan létrejön egy új kísérlet.If the name doesn't exist when you submit an experiment, a new experiment is automatically created.

Egy kísérletre példaként tekintse meg az oktatóanyag: az első modell betanításacímű témakört.For an example of using an experiment, see Tutorial: Train your first model.

FuttatásRuns

Munkaterület > Kísérletek > FuttatásWorkspace > Experiments > Run

A Futtatás egy képzési parancsfájl egyetlen végrehajtása.A run is a single execution of a training script. Egy kísérlet általában több futtatást is tartalmaz.An experiment will typically contain multiple runs.

Azure Machine Learning rögzíti az összes futtatást, és a következő információkat tárolja a kísérletben:Azure Machine Learning records all runs and stores the following information in the experiment:

  • A futtatással kapcsolatos metaadatok (timestamp, időtartam stb.)Metadata about the run (timestamp, duration, and so on)
  • A parancsfájl által naplózott metrikákMetrics that are logged by your script
  • A kísérlet által összegyűjtött vagy kifejezetten az Ön által feltöltött kimeneti fájlokOutput files that are autocollected by the experiment or explicitly uploaded by you
  • A futtatást megelőzően a parancsfájlokat tartalmazó könyvtár pillanatképeA snapshot of the directory that contains your scripts, prior to the run

A futtatást akkor kell létrehoznia, ha parancsfájlt küld a modell betanításához.You produce a run when you submit a script to train a model. Egy Futtatás nulla vagy több gyermek futtatásával is rendelkezhet.A run can have zero or more child runs. Előfordulhat például, hogy a legfelső szintű Futtatás két gyermeket futtat, amelyek mindegyike rendelkezhet saját gyermekével.For example, the top-level run might have two child runs, each of which might have its own child run.

Konfigurációk futtatásaRun configurations

Munkaterület > Kísérletek > Futtatás > Konfiguráció futtatásaWorkspace > Experiments > Run > Run configuration

A futtatási konfiguráció határozza meg, hogyan fusson egy parancsfájl egy adott számítási célhelyen.A run configuration defines how a script should be run in a specified compute target. A konfiguráció segítségével megadhatja a parancsfájlt, a számítási célt és az Azure ML-környezetet a futtatáshoz, a feladatokra vonatkozó elosztott konfigurációkat és néhány további tulajdonságot.You use the configuration to specify the script, the compute target and Azure ML environment to run on, any distributed job-specific configurations, and some additional properties. További információ a futtatások konfigurálható lehetőségeinek teljes készletéről: ScriptRunConfig.For more information on the full set of configurable options for runs, see ScriptRunConfig.

A futtatási konfiguráció a betanítási parancsfájlt tartalmazó könyvtárban található fájlban maradhat.A run configuration can be persisted into a file inside the directory that contains your training script. Vagy egy memóriában tárolt objektumként is létrehozható, és futtatásra is elküldhető.Or it can be constructed as an in-memory object and used to submit a run.

Példa a futtatási konfigurációkra: képzések futtatásának konfigurálása.For example run configurations, see Configure a training run.

PillanatképekSnapshots

Munkaterület > Kísérletek > Futtatás > PillanatképWorkspace > Experiments > Run > Snapshot

Amikor elküld egy futtatást, Azure Machine Learning tömöríti azt a könyvtárat, amely a parancsfájlt zip-fájlként tartalmazza, és elküldi a számítási célnak.When you submit a run, Azure Machine Learning compresses the directory that contains the script as a zip file and sends it to the compute target. Ekkor a rendszer kibontja a zip-fájlt, és ott futtatja a parancsfájlt.The zip file is then extracted, and the script is run there. Azure Machine Learning a zip-fájlt pillanatképként tárolja a futtatási rekord részeként.Azure Machine Learning also stores the zip file as a snapshot as part of the run record. Bárki, aki hozzáféréssel rendelkezik a munkaterülethez, böngészhet egy futtatási rekordot, és letöltheti a pillanatképet.Anyone with access to the workspace can browse a run record and download the snapshot.

NaplózásLogging

Azure Machine Learning automatikusan naplózza a szabványos futtatási metrikákat.Azure Machine Learning automatically logs standard run metrics for you. A PYTHON SDK használatával azonban tetszőleges mérőszámokat is naplózhat.However, you can also use the Python SDK to log arbitrary metrics.

Több módon is megtekintheti a naplókat: valós időben figyelheti a futtatási állapotot, vagy megtekintheti az eredményeket a befejezés után.There are multiple ways to view your logs: monitoring run status in real time, or viewing results after completion. További információkért lásd: ml-futtatási naplók figyelése és megtekintése.For more information, see Monitor and view ML run logs.

Megjegyzés

Ha meg szeretné akadályozni, hogy a felesleges fájlok szerepeljenek a pillanatképben, ne hagyja figyelmen kívül a fájlt ( .gitignore vagy .amlignore ) a címtárban.To prevent unnecessary files from being included in the snapshot, make an ignore file (.gitignore or .amlignore) in the directory. Adja hozzá a fájlhoz kizárandó fájlokat és könyvtárakat.Add the files and directories to exclude to this file. A fájlban található szintaxissal kapcsolatos további információkért lásd: a szintaxis és a mintázatok .gitignore .For more information on the syntax to use inside this file, see syntax and patterns for .gitignore. A .amlignore fájl ugyanazt a szintaxist használja.The .amlignore file uses the same syntax. Ha mindkét fájl létezik, a .amlignore fájl elsőbbséget élvez.If both files exist, the .amlignore file takes precedence.

Git-követés és-integrációGit tracking and integration

Ha olyan képzést indít el, ahol a forrás könyvtára helyi git-tárház, a rendszer a tárház adatait a futtatási előzményekben tárolja.When you start a training run where the source directory is a local Git repository, information about the repository is stored in the run history. Ez a parancsfájl-futtatási konfiguráció vagy a ML-folyamat használatával elküldött futtatásokkal működik.This works with runs submitted using a script run configuration or ML pipeline. Az SDK-ból vagy Machine Learning parancssori felületről küldött futtatások esetén is működik.It also works for runs submitted from the SDK or Machine Learning CLI.

További információ: git- integráció Azure Machine Learninghoz.For more information, see Git integration for Azure Machine Learning.

Betanítási munkafolyamatTraining workflow

Amikor kísérletet futtat egy modell betanítására, a következő lépések történnek.When you run an experiment to train a model, the following steps happen. Ezeket az alábbi betanítási munkafolyamat-diagram szemlélteti:These are illustrated in the training workflow diagram below:

  • A Azure Machine Learning a rendszer az előző szakaszban mentett kód pillanatképéhez tartozó pillanatkép-AZONOSÍTÓval hívja meg.Azure Machine Learning is called with the snapshot ID for the code snapshot saved in the previous section.

  • Azure Machine Learning létrehoz egy futtatási azonosítót (nem kötelező) és egy Machine Learning szolgáltatási jogkivonatot, amelyet később a számítási célok, például a Machine Learning Compute/virtuális gépek használják a Machine Learning szolgáltatással való kommunikációhoz.Azure Machine Learning creates a run ID (optional) and a Machine Learning service token, which is later used by compute targets like Machine Learning Compute/VMs to communicate with the Machine Learning service.

  • Kiválaszthat egy felügyelt számítási célt (például Machine Learning Compute) vagy egy nem felügyelt számítási célt (például virtuális gépeket) a betanítási feladatok futtatásához.You can choose either a managed compute target (like Machine Learning Compute) or an unmanaged compute target (like VMs) to run training jobs. Mindkét forgatókönyv esetén az alábbi adatfolyamatok érhetők el:Here are the data flows for both scenarios:

    • Virtuális gépek/HDInsight, a Microsoft-előfizetés egyik kulcstartójában elérhető SSH hitelesítő adatokkal.VMs/HDInsight, accessed by SSH credentials in a key vault in the Microsoft subscription. Azure Machine Learning a következő számítási célra futtatja a felügyeleti kódot:Azure Machine Learning runs management code on the compute target that:
    1. Előkészíti a környezetet.Prepares the environment. (A Docker lehetőséget biztosít a virtuális gépek és a helyi számítógépek számára.(Docker is an option for VMs and local computers. A következő lépésekből megtudhatja, hogyan működik a kísérletek futtatása a Docker-tárolókban Machine Learning Compute.)See the following steps for Machine Learning Compute to understand how running experiments on Docker containers works.)
    2. Letölti a kódot.Downloads the code.
    3. Beállítja a környezeti változókat és a konfigurációkat.Sets up environment variables and configurations.
    4. Futtatja a felhasználói parancsfájlokat (az előző szakaszban említett kód-pillanatképet).Runs user scripts (the code snapshot mentioned in the previous section).
    • Machine Learning Compute, amely egy munkaterület által felügyelt identitáson keresztül érhető el.Machine Learning Compute, accessed through a workspace-managed identity. Mivel Machine Learning Compute felügyelt számítási cél (azaz a Microsoft felügyeli), a Microsoft-előfizetése alatt fut.Because Machine Learning Compute is a managed compute target (that is, it's managed by Microsoft) it runs under your Microsoft subscription.
    1. Ha szükséges, a távoli Docker-konstrukció indult el.Remote Docker construction is kicked off, if needed.
    2. A felügyeleti kód a felhasználó Azure Files megosztására íródik.Management code is written to the user's Azure Files share.
    3. A tároló egy kezdeti paranccsal indult el.The container is started with an initial command. Ez a felügyeleti kód az előző lépésben leírtak szerint.That is, management code as described in the previous step.
  • A futtatást követően lekérdezheti a futtatott és a metrikákat.After the run completes, you can query runs and metrics. Az alábbi folyamatábrán ez a lépés akkor következik be, amikor a betanítási cél a futtatási metrikákat a Cosmos DB-adatbázisban lévő tárterületről Azure Machine Learningra írja vissza.In the flow diagram below, this step occurs when the training compute target writes the run metrics back to Azure Machine Learning from storage in the Cosmos DB database. Az ügyfelek hívhatják Azure Machine Learning.Clients can call Azure Machine Learning. Machine Learning a Cosmos DB-adatbázisból lekéri a metrikákat, majd visszaküldi azokat az ügyfélnek.Machine Learning will in turn pull metrics from the Cosmos DB database and return them back to the client.

Betanítási munkafolyamatTraining workflow

ModellekModels

Legegyszerűbben a modell egy olyan kódrészlet, amely bemenetet és kimenetet hoz létre.At its simplest, a model is a piece of code that takes an input and produces output. A gépi tanulási modell létrehozásához ki kell választania egy algoritmust, amely lehetővé teszi az adatgyűjtést és a hiperparaméterek beállítása hangolását.Creating a machine learning model involves selecting an algorithm, providing it with data, and tuning hyperparameters. A képzés egy olyan ismétlődő folyamat, amely egy betanított modellt hoz létre, amely bemutatja a modell betanítási folyamatát.Training is an iterative process that produces a trained model, which encapsulates what the model learned during the training process.

Azure Machine Learningon kívül betanított modellt is létrehozhat.You can bring a model that was trained outside of Azure Machine Learning. A modellt úgy is betaníthatja, hogy elküld egy kísérlet futtatását egy számítási célra Azure Machine Learningban.Or you can train a model by submitting a run of an experiment to a compute target in Azure Machine Learning. A modell megkezdése után regisztrálja a modellt a munkaterületen.Once you have a model, you register the model in the workspace.

Azure Machine Learning a Framework agnosztikus.Azure Machine Learning is framework agnostic. Modell létrehozásakor bármilyen népszerű Machine learning-keretrendszert használhat, például a Scikit-Learn, a XGBoost, a PyTorch, a TensorFlow és a Chainer platformot.When you create a model, you can use any popular machine learning framework, such as Scikit-learn, XGBoost, PyTorch, TensorFlow, and Chainer.

Példa a modell Scikit-Learn használatával történő betanítására : oktatóanyag: képbesorolási modell Betanítása Azure Machine Learningsal.For an example of training a model using Scikit-learn, see Tutorial: Train an image classification model with Azure Machine Learning.

Modell beállításjegyzékeModel registry

Munkaterület > ModellekWorkspace > Models

A modell beállításjegyzékében nyomon követheti a Azure Machine learning munkaterület összes modelljét.The model registry lets you keep track of all the models in your Azure Machine Learning workspace.

A modelleket név és verzió alapján azonosítjuk.Models are identified by name and version. Minden alkalommal, amikor egy olyan modellt regisztrál, amelynek a neve megegyezik egy meglévővel, a beállításjegyzék feltételezi, hogy ez egy új verzió.Each time you register a model with the same name as an existing one, the registry assumes that it's a new version. A verzió növekményes, és az új modell ugyanazon a néven van regisztrálva.The version is incremented, and the new model is registered under the same name.

A modell regisztrálása esetén további metaadat-címkéket is megadhat, majd használhatja a címkéket a modellek keresésekor.When you register the model, you can provide additional metadata tags and then use the tags when you search for models.

Tipp

A regisztrált modell a modellt alkotó egy vagy több fájl logikai tárolója.A registered model is a logical container for one or more files that make up your model. Ha például több fájlban tárolt modell van, akkor egyetlen modellként regisztrálhatja őket a Azure Machine Learning munkaterületen.For example, if you have a model that is stored in multiple files, you can register them as a single model in your Azure Machine Learning workspace. A regisztráció után letöltheti vagy telepítheti a regisztrált modellt, és megkapja az összes regisztrált fájlt.After registration, you can then download or deploy the registered model and receive all the files that were registered.

Egy aktív telepítés által használt regisztrált modell nem törölhető.You can't delete a registered model that is being used by an active deployment.

A modellek regisztrálására példát a képbesorolási modell Betanítása Azure Machine Learningkalcímű témakörben talál.For an example of registering a model, see Train an image classification model with Azure Machine Learning.

Üzembe helyezésDeployment

A regisztrált modellt szolgáltatás-végpontként kell üzembe helyezni.You deploy a registered model as a service endpoint. A következő összetevőkre van szüksége:You need the following components:

  • Környezet.Environment. Ez a környezet beágyazza a modellnek a következtetéshez való futtatásához szükséges függőségeket.This environment encapsulates the dependencies required to run your model for inference.
  • Pontozási kód.Scoring code. Ez a szkript fogadja a kéréseket, a modell használatával szerzi be a kérelmeket, és visszaadja az eredményeket.This script accepts requests, scores the requests by using the model, and returns the results.
  • Következtetési konfiguráció.Inference configuration. A következtetési konfiguráció határozza meg a környezetet, a bejegyzés parancsfájlját és a modell szolgáltatásként való futtatásához szükséges egyéb összetevőket.The inference configuration specifies the environment, entry script, and other components needed to run the model as a service.

További információ ezekről az összetevőkről: modellek üzembe helyezése Azure Machine Learningsal.For more information about these components, see Deploy models with Azure Machine Learning.

VégpontokEndpoints

Munkaterület > VégpontokWorkspace > Endpoints

A végpontok a modell példányai egy olyan webszolgáltatásba, amely a felhőben vagy egy IoT modulban üzemeltethető az integrált eszközök üzembe helyezéséhez.An endpoint is an instantiation of your model into either a web service that can be hosted in the cloud or an IoT module for integrated device deployments.

Webszolgáltatás végpontjaWeb service endpoint

A modell webszolgáltatásként való telepítésekor a végpont Azure Container Instances, Azure Kubernetes Service-ben vagy FPGA-ben is üzembe helyezhető.When deploying a model as a web service, the endpoint can be deployed on Azure Container Instances, Azure Kubernetes Service, or FPGAs. A szolgáltatást a modellből, a parancsfájlból és a társított fájlokból hozza létre.You create the service from your model, script, and associated files. Ezek egy alap tároló-rendszerképbe kerülnek, amely a modell végrehajtási környezetét tartalmazza.These are placed into a base container image, which contains the execution environment for the model. A rendszerkép egy elosztott terhelésű, HTTP-végponttal rendelkezik, amely a webszolgáltatásnak küldött pontozási kérelmeket fogadja.The image has a load-balanced, HTTP endpoint that receives scoring requests that are sent to the web service.

A webszolgáltatások figyeléséhez Application Insights telemetria vagy Model telemetria is engedélyezheti.You can enable Application Insights telemetry or model telemetry to monitor your web service. A telemetria-adatbázis csak Ön számára érhető el.The telemetry data is accessible only to you. A rendszer a Application Insights és a Storage-fiók példányaiban tárolja.It's stored in your Application Insights and storage account instances. Ha engedélyezte az automatikus skálázást, az Azure automatikusan méretezi az üzembe helyezést.If you've enabled automatic scaling, Azure automatically scales your deployment.

Az alábbi ábrán egy webszolgáltatási végpontként üzembe helyezett modell következtetési munkafolyamata látható:The following diagram shows the inference workflow for a model deployed as a web service endpoint:

A részletek a következők:Here are the details:

  • A felhasználó egy olyan ügyfél használatával regisztrálja a modellt, mint a Azure Machine Learning SDK-t.The user registers a model by using a client like the Azure Machine Learning SDK.
  • A felhasználó létrehoz egy rendszerképet egy modell, egy pontszám-fájl és más modell függőségei használatával.The user creates an image by using a model, a score file, and other model dependencies.
  • A Docker-rendszerkép létrehozása és tárolása Azure Container Registryban történik.The Docker image is created and stored in Azure Container Registry.
  • A webszolgáltatás üzembe helyezése a számítási célra (Container Instances/ak) történik az előző lépésben létrehozott rendszerkép használatával.The web service is deployed to the compute target (Container Instances/AKS) using the image created in the previous step.
  • A pontozási kérés részleteit Application Insights tárolja a rendszer, amely a felhasználó előfizetésében található.Scoring request details are stored in Application Insights, which is in the user's subscription.
  • A telemetria a Microsoft/Azure-előfizetésre is leküldve.Telemetry is also pushed to the Microsoft/Azure subscription.

Következtetési munkafolyamatInference workflow

Egy modell webszolgáltatásként való üzembe helyezésére példa: lemezkép besorolási modell telepítése Azure Container Instancesban.For an example of deploying a model as a web service, see Deploy an image classification model in Azure Container Instances.

Valós idejű végpontokReal-time endpoints

Ha a tervezőben egy betanított modellt telepít, valós idejű végpontként helyezheti üzembe a modellt.When you deploy a trained model in the designer, you can deploy the model as a real-time endpoint. Egy valós idejű végpont általában egyetlen kérést kap a REST-végponton keresztül, és valós időben előrejelzést ad vissza.A real-time endpoint commonly receives a single request via the REST endpoint and returns a prediction in real-time. Ez ellentétben áll a kötegelt feldolgozással, amely egyszerre több értéket dolgoz fel, és a befejezés után menti az eredményeket egy adattárba.This is in contrast to batch processing, which processes multiple values at once and saves the results after completion to a datastore.

Folyamat végpontjaiPipeline endpoints

A folyamat végpontjai lehetővé teszik a ml-folyamatok programozott módon való meghívását egy Rest-végponton keresztül.Pipeline endpoints let you call your ML Pipelines programatically via a REST endpoint. A folyamat végpontjai lehetővé teszik a folyamat munkafolyamatainak automatizálását.Pipeline endpoints let you automate your pipeline workflows.

A folyamat végpontja közzétett folyamatok gyűjteménye.A pipeline endpoint is a collection of published pipelines. Ez a logikai szervezet lehetővé teszi több folyamat kezelését és meghívását ugyanazzal a végponttal.This logical organization lets you manage and call multiple pipelines using the same endpoint. A folyamat végpontján lévő összes közzétett folyamat verziószáma.Each published pipeline in a pipeline endpoint is versioned. Kiválaszthatja a végpont alapértelmezett folyamatát, vagy megadhat egy verziót a REST-hívásban.You can select a default pipeline for the endpoint, or specify a version in the REST call.

IoT modul végpontjaiIoT module endpoints

Az üzembe helyezett IoT-végpont egy olyan Docker-tároló, amely tartalmazza a modellt, valamint a hozzá tartozó parancsfájlt vagy alkalmazást, valamint a további függőségeket.A deployed IoT module endpoint is a Docker container that includes your model and associated script or application and any additional dependencies. Ezeket a modulokat a Azure IoT Edge Edge-eszközökön történő üzembe helyezésével végezheti el.You deploy these modules by using Azure IoT Edge on edge devices.

Ha engedélyezte a figyelést, az Azure a modellből gyűjt telemetria adatokat a Azure IoT Edge modulban.If you've enabled monitoring, Azure collects telemetry data from the model inside the Azure IoT Edge module. A telemetria adatai csak Ön számára érhetők el, és a Storage-fiók példányában vannak tárolva.The telemetry data is accessible only to you, and it's stored in your storage account instance.

Azure IoT Edge biztosítja, hogy a modul fut, és figyeli az azt üzemeltető eszközt.Azure IoT Edge ensures that your module is running, and it monitors the device that's hosting it.

AutomationAutomation

Azure Machine Learning CLIAzure Machine Learning CLI

A Azure Machine learning CLI az Azure CLI egy platformfüggetlen parancssori felülete az Azure platformhoz.The Azure Machine Learning CLI is an extension to the Azure CLI, a cross-platform command-line interface for the Azure platform. Ez a bővítmény parancsokat biztosít a gépi tanulási tevékenységek automatizálásához.This extension provides commands to automate your machine learning activities.

ML-folyamatokML Pipelines

A gépi tanulási folyamatokkal olyan munkafolyamatokat hozhat létre és kezelhet, amelyek összegyűjtik a gépi tanulási fázisokat.You use machine learning pipelines to create and manage workflows that stitch together machine learning phases. Egy folyamat például magában foglalhatja az adatelőkészítést, a modell betanítását, a modell üzembe helyezését és a következtetések/pontozási fázisokat.For example, a pipeline might include data preparation, model training, model deployment, and inference/scoring phases. Az egyes fázisok több lépést is magukban foglalhatnak, amelyek mindegyike felügyelet nélkül futtatható különböző számítási célokban.Each phase can encompass multiple steps, each of which can run unattended in various compute targets.

A folyamat lépései újrafelhasználhatók, és az előző lépések újbóli futtatása nélkül is futtathatók, ha a lépések eredménye nem módosult.Pipeline steps are reusable, and can be run without rerunning the previous steps if the output of those steps hasn't changed. Például áttaníthatja a modelleket anélkül, hogy újra kellene futtatnia a költséges adatelőkészítési lépéseket, ha az adatváltozás nem változott.For example, you can retrain a model without rerunning costly data preparation steps if the data hasn't changed. A folyamatok azt is lehetővé teszik, hogy az adatszakértők működjenek együtt a gépi tanulási munkafolyamatok különálló területein való munka során.Pipelines also allow data scientists to collaborate while working on separate areas of a machine learning workflow.

Monitorozás és naplózásMonitoring and logging

Azure Machine Learning a következő figyelési és naplózási képességeket biztosítja:Azure Machine Learning provides the following monitoring and logging capabilities:

Interakció a munkaterülettelInteracting with your workspace

StudioStudio

Azure Machine learning Studio a munkaterületen található összes összetevőt webes nézetben jeleníti meg.Azure Machine Learning studio provides a web view of all the artifacts in your workspace. Megtekintheti az adatkészletek, kísérletek, folyamatok, modellek és végpontok eredményeit és részleteit.You can view results and details of your datasets, experiments, pipelines, models, and endpoints. A Studióban is kezelheti a számítási erőforrásokat és az adattárolókat.You can also manage compute resources and datastores in the studio.

A Studióban a Azure Machine Learning részét képező interaktív eszközök is elérhetők:The studio is also where you access the interactive tools that are part of Azure Machine Learning:

Programozási eszközökProgramming tools

Fontos

Az alábbi megjelölésű eszközök (előzetes verzió) jelenleg nyilvános előzetes verzióban érhetők el.Tools marked (preview) below are currently in public preview. Az előzetes verzió szolgáltatási szintű szerződés nélkül van megadva, és nem ajánlott éles számítási feladatokhoz.The preview version is provided without a service level agreement, and it's not recommended for production workloads. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik.Certain features might not be supported or might have constrained capabilities. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.For more information, see Supplemental Terms of Use for Microsoft Azure Previews.

Következő lépésekNext steps

A Azure Machine Learning megkezdéséhez tekintse meg a következőt:To get started with Azure Machine Learning, see: