Mik a számítási célok az Azure Machine Learningben?
A számítási cél egy kijelölt számítási erőforrás vagy környezet, ahol futtatja a betanítási szkriptet, vagy üzemelteti a szolgáltatás üzembe helyezését. Ez a hely lehet a helyi gép vagy egy felhőalapú számítási erőforrás. A számítási célok használata megkönnyíti a számítási környezet későbbi módosítását anélkül, hogy módosítania kellene a kódot.
Az Azure Machine Tanulás különböző számítási célokat támogat. Egy tipikus modellfejlesztési életciklusban a következőt teheti:
- Első lépésként dolgozzon ki és kísérletezzen kis mennyiségű adaton. Ebben a szakaszban használja a helyi környezetet, például egy helyi számítógépet vagy egy felhőalapú virtuális gépet (VM) számítási célként.
- Vertikális felskálázás nagyobb adatokra, vagy elosztott betanítások elvégzése ezen betanítási számítási célok egyikével.
- Miután a modell elkészült, helyezze üzembe egy web hosting környezetben ezen üzembehelyezési számítási célok egyikével.
A számítási célokhoz használt számítási erőforrások egy munkaterülethez vannak csatolva. A helyi gépen kívüli számítási erőforrásokat a munkaterület felhasználói osztják meg.
Számítási célok betanítása
A nagyobb adatkészleteken végzett betanítások vertikális felskálázása vagy elosztott betanítás végrehajtása során az Azure Machine Tanulás compute használatával hozzon létre egy vagy többcsomópontos fürtöt, amely minden feladat elküldésekor automatikusan skáláz. Saját számítási erőforrást is csatolhat, bár a különböző forgatókönyvek támogatása eltérő lehet.
A számítási célok az egyik betanítási feladattól a következőig újra felhasználhatók. Ha például távoli virtuális gépet csatol a munkaterülethez, több feladathoz is felhasználhatja. Gépi tanulási folyamatok esetén minden számítási célhoz használja a megfelelő folyamatlépést .
Az alábbi erőforrások bármelyikét használhatja a legtöbb feladat betanítási számítási céljához. Nem minden erőforrás használható automatizált gépi tanuláshoz, gépi tanulási folyamatokhoz vagy tervezőkhöz. Az Azure Databricks használható betanítási erőforrásként helyi futtatásokhoz és gépi tanulási folyamatokhoz, de nem távoli célként más betanításokhoz.
| Képzési célok | Automatizált gépi tanulás | Gépi tanulási folyamatok | Azure Machine Tanulás tervezője |
|---|---|---|---|
| Helyi számítógép | Igen | ||
| Azure Machine Tanulás számítási fürt | Igen | Igen | Igen |
| Azure Machine Tanulás kiszolgáló nélküli számítás | Igen | Igen | Igen |
| Azure Machine Tanulás számítási példány | Igen (SDK-n keresztül) | Igen | Igen |
| Azure Machine Tanulás Kubernetes | Igen | Igen | |
| Távoli virtuális gép | Igen | Igen | |
| Apache Spark-készletek (előzetes verzió) | Igen (csak helyi SDK-mód) | Igen | |
| Azure Databricks | Igen (csak helyi SDK-mód) | Igen | |
| Azure Data Lake Analytics | Igen | ||
| Azure HDInsight | Igen | ||
| Azure Batch | Igen |
Tipp.
A számítási példány 120 GB-os operációsrendszer-lemezzel rendelkezik. Ha elfogy a lemezterület, a terminál használatával töröljön legalább 1–2 GB-ot, mielőtt leállítja vagy újraindítaná a számítási példányt.
Számítási célok következtetéshez
A következtetés végrehajtásakor az Azure Machine Tanulás létrehoz egy Docker-tárolót, amely a modell és a használathoz szükséges kapcsolódó erőforrásokat tárolja. Ezt a tárolót ezután egy számítási célban használja a rendszer.
A modell üzemeltetéséhez használt számítási cél hatással van az üzembe helyezett végpont költségeire és rendelkezésre állására. Ezzel a táblával válasszon ki egy megfelelő számítási célt.
| Számítási cél | Alkalmazási cél | GPU-támogatás | Leírás |
|---|---|---|---|
| Azure Machine Learning-végpontok | Valós idejű következtetés Batch-következtetés |
Igen | Teljes körűen felügyelt számítások valós idejű (felügyelt online végpontokhoz) és kötegelt pontozáshoz (kötegelt végpontokhoz) a kiszolgáló nélküli számításban. |
| Azure Machine Tanulás Kubernetes | Valós idejű következtetés Batch-következtetés |
Igen | Következtetési számítási feladatok futtatása helyszíni, felhőbeli és peremhálózati Kubernetes-fürtökön. |
| Számítási cél | Alkalmazási cél | GPU-támogatás | Leírás |
|---|---|---|---|
| Helyi webszolgáltatás | Tesztelés/hibakeresés | Korlátozott teszteléshez és hibaelhárításhoz használható. A hardveres gyorsítás a kódtárak helyi rendszerben való használatától függ. | |
| Azure Machine Tanulás Kubernetes | Valós idejű következtetés | Igen | Következtetési számítási feladatok futtatása a felhőben. |
| Azure Container Instances | Valós idejű következtetés Csak fejlesztési/tesztelési célokra ajánlott. |
A 48 GB-nál kevesebb RAM-ot igénylő, alacsony skálázású CPU-alapú számítási feladatokhoz használható. Nincs szükség fürtök kezelésére. Csak 1 GB-nál kisebb méretű modellekhez alkalmas. A tervező támogatja. |
Feljegyzés
Fürt termékváltozatának kiválasztásakor először vertikális felskálázást, majd vertikális felskálázást kell végezni. Kezdje egy olyan géppel, amely a modell által igényelt RAM 150%-ával rendelkezik, profilozza az eredményt, és keressen egy olyan gépet, amely rendelkezik a szükséges teljesítménnyel. Ha ezt megtanulta, növelje a gépek számát, hogy megfeleljen az egyidejű következtetés szükségletének.
Azure Machine Tanulás számítás (felügyelt)
Az Azure Machine Tanulás létrehozza és kezeli a felügyelt számítási erőforrásokat. Ez a számítási típus gépi tanulási számítási feladatokhoz van optimalizálva. Az Azure Machine Tanulás számítási fürtök, a kiszolgáló nélküli számítási és számítási példányok az egyetlen felügyelt számítás.
Nincs szükség kiszolgáló nélküli számítás létrehozására. Azure Machine-Tanulás számítási példányokat vagy számítási fürtöket az alábbiakból hozhat létre:
- Azure Machine Learning Studio
- A Python SDK és az Azure CLI:
- Egy Azure Resource Manager-sablon. Példasablon: Azure Machine Tanulás számítási fürt létrehozása.
Feljegyzés
Számítási fürt létrehozása helyett használjon kiszolgáló nélküli számítást a számítási életciklus-felügyelet Azure Machine-Tanulás való kiszervezéséhez.
Létrehozásukkor ezek a számítási erőforrások automatikusan a munkaterület részét képezik, más számítási céloktól eltérően.
| Funkció | Számítási fürt | Számítási példány |
|---|---|---|
| Egy- vagy többcsomópontos fürt | ✓ | Egycsomópontos fürt |
| Automatikus skálázás minden feladat elküldésekor | ✓ | |
| Automatikus fürtkezelés és feladatütemezés | ✓ | ✓ |
| Cpu- és GPU-erőforrások támogatása | ✓ | ✓ |
Feljegyzés
A díjak elkerülése, ha a számítás tétlen:
- Számítási fürt esetén győződjön meg arról, hogy a csomópontok minimális száma 0, vagy kiszolgáló nélküli számítást használ.
- Számítási példány esetén engedélyezze az inaktív leállítást.
Támogatott virtuálisgép-sorozatok és -méretek
Fontos
Ha a számítási példány vagy számítási fürtök ezen sorozatok bármelyikén alapulnak, a szolgáltatáskimaradás elkerülése érdekében hozza létre újra a virtuálisgép-méretet egy másik virtuálisgép-mérettel a kivonási dátum előtt.
Ezek a sorozatok 2023. augusztus 31-én visszavonulnak:
Ezek a sorozatok 2024. augusztus 31-én visszavonulnak:
Ha kiválaszt egy csomópontméretet egy felügyelt számítási erőforráshoz az Azure Machine Tanulás, választhat az Azure-ban elérhető virtuálisgép-méretek közül. Az Azure számos méretet kínál Linuxhoz és Windowshoz különböző számítási feladatokhoz. További információkért tekintse meg a virtuális gépek típusait és méretét.
A virtuálisgép-méret kiválasztásának néhány kivétele és korlátozása van:
- Egyes virtuálisgép-sorozatok nem támogatottak az Azure Machine Tanulás.
- Előfordulhat, hogy egyes virtuálisgép-sorozatok, például GPU-k és más speciális termékváltozatok kezdetben nem jelennek meg az elérhető virtuális gépek listájában. A kvótamódosítás kérése után azonban továbbra is használhatja őket. A kvóták kéréséről további információt a Kvóta kérése és a korlátnövelés című témakörben talál. A támogatott sorozatokkal kapcsolatos további információkért tekintse meg az alábbi táblázatot.
| Támogatott virtuálisgép-sorozat | Kategória | Támogatja: |
|---|---|---|
| DDSv4 | Általános célú | Számítási fürtök és példányok |
| Dv2 | Általános célú | Számítási fürtök és példányok |
| Dv3 | Általános célú | Számítási fürtök és példányok |
| DSv2 | Általános célú | Számítási fürtök és példányok |
| DSv3 | Általános célú | Számítási fürtök és példányok |
| EAv4 | Memóriaoptimalizált | Számítási fürtök és példányok |
| Ev3 | Memóriaoptimalizált | Számítási fürtök és példányok |
| ESv3 | Memóriaoptimalizált | Számítási fürtök és példányok |
| FSv2 | Számításoptimalizált | Számítási fürtök és példányok |
| FX | Számításoptimalizált | Számítási fürtök |
| H | Nagy teljesítményű számítás | Számítási fürtök és példányok |
| HB | Nagy teljesítményű számítás | Számítási fürtök és példányok |
| HBv2 | Nagy teljesítményű számítás | Számítási fürtök és példányok |
| HBv3 | Nagy teljesítményű számítás | Számítási fürtök és példányok |
| HC | Nagy teljesítményű számítás | Számítási fürtök és példányok |
| LSv2 | Tároptimalizált | Számítási fürtök és példányok |
| M | Memóriaoptimalizált | Számítási fürtök és példányok |
| NC | GPU | Számítási fürtök és példányok |
| NC Promo | GPU | Számítási fürtök és példányok |
| NCv2 | GPU | Számítási fürtök és példányok |
| NCv3 | GPU | Számítási fürtök és példányok |
| ND | GPU | Számítási fürtök és példányok |
| NDv2 | GPU | Számítási fürtök és példányok |
| NV | GPU | Számítási fürtök és példányok |
| NVv3 | GPU | Számítási fürtök és példányok |
| NCasT4_v3 | GPU | Számítási fürtök és példányok |
| NDasrA100_v4 | GPU | Számítási fürtök és példányok |
Bár az Azure Machine Tanulás támogatja ezeket a virtuálisgép-sorozatokat, előfordulhat, hogy nem minden Azure-régióban érhetők el. A virtuálisgép-sorozatok elérhetőségének ellenőrzéséhez tekintse meg a régiónként elérhető termékeket.
Feljegyzés
Az Azure Machine Tanulás nem támogatja az Azure Compute által támogatott összes virtuálisgép-méretet. Az elérhető virtuálisgép-méretek listázásához használja a következő módszert:
Feljegyzés
Az Azure Machine Tanulás nem támogatja az Azure Compute által támogatott összes virtuálisgép-méretet. Az elérhető virtuálisgép-méretek listázásához használja az alábbi módszerek egyikét:
Ha GPU-kompatibilis számítási célokat használ, fontos, hogy a megfelelő CUDA-illesztőprogramok legyenek telepítve a betanítási környezetben. A következő táblázat segítségével állapítsa meg a megfelelő CUDA-verziót:
| GPU-architektúra | Azure-beli virtuálisgép-sorozat | Támogatott CUDA-verziók |
|---|---|---|
| Ampere | NDA100_v4 | 11.0+ |
| Turing | NCT4_v3 | 10.0+ |
| Volta | NCv3, NDv2 | 9.0+ |
| Pascal | NCv2, ND | 9.0+ |
| Maxwell | NV, NVv3 | 9.0+ |
| Kepler | NC, NC Promo | 9.0+ |
A CUDA-verzió és a hardver kompatibilitásának biztosítása mellett győződjön meg arról is, hogy a CUDA-verzió kompatibilis a használt gépi tanulási keretrendszer verziójával:
- A PyTorch esetében a pytorch korábbi verzióinak lapján ellenőrizheti a kompatibilitást.
- A Tensorflow esetében a Tensorflow buildjének forrásoldalról való megtekintésével ellenőrizheti a kompatibilitást.
Izolált számítási kapacitás
Az Azure Machine Tanulás compute olyan virtuálisgép-méreteket kínál, amelyek egy adott hardvertípushoz vannak elkülönítve, és egyetlen ügyfél számára vannak dedikáltak. Az izolált virtuálisgép-méretek olyan számítási feladatokhoz ideálisak, amelyek magas fokú elkülönítést igényelnek más ügyfelek számítási feladataitól a megfelelőségi és szabályozási követelményeknek való megfelelés érdekében. Az elkülönített méret használata garantálja, hogy a virtuális gép az egyetlen, amely az adott kiszolgálópéldányon fut.
A jelenlegi izolált virtuálisgép-ajánlatok a következők:
- Standard_M128ms
- Standard_F72s_v2
- Standard_NC24s_v3
- Standard_NC24rs_v3 (RDMA-kompatibilis)
Az elkülönítésről további információt az Elkülönítés az Azure nyilvános felhőben című témakörben talál.
Nem felügyelt számítás
Az Azure Machine Tanulás nem kezel nem felügyelt számítási célokat. Ezt a számításicél-típust az Azure Machine Learningen kívül hozza létre, majd csatolja a munkaterülethez. A nem felügyelt számítási erőforrások további lépéseket igényelhetnek a gépi tanulási számítási feladatok teljesítményének fenntartásához vagy javításához.
Az Azure Machine Learning az alábbi nem felügyelt számítási típusokat támogatja:
- Távoli virtuális gépek
- Azure HDInsight
- Azure Databricks
- Azure Data Lake Analytics
További információ: Számítási erőforrások kezelése.