Tato referenční architektura ukazuje, jak pomocí azure Stack Edge rozšířit rychlé odvozování strojového učení z cloudu do místních nebo hraničních scénářů. Azure Stack Hub poskytuje funkce Azure, jako jsou výpočetní prostředky, úložiště, sítě a hardwarově akcelerované strojové učení, do libovolného hraničního umístění.
Architektura
Stáhněte si soubor aplikace Visio s touto architekturou.
Workflow
Architektura se skládá z následujících kroků:
- Azure Machine Učení. Strojové Učení umožňuje vytvářet, trénovat, nasazovat a spravovat modely strojového učení v cloudovém prostředí. Tyto modely se pak můžou nasadit do služeb Azure, včetně služby Azure Container Instances, Azure Kubernetes Service (AKS) a Azure Functions (mimo jiné).
- Azure Container Registry. Container Registry je služba, která vytváří a spravuje registr Dockeru. Container Registry sestavuje, ukládá a spravuje image kontejnerů Dockeru a může ukládat kontejnerizované modely strojového učení.
- Azure Stack Edge. Azure Stack Edge je hraniční výpočetní zařízení, které je navržené pro odvozování strojového učení na hraničních zařízeních. Data se před přenosem do Azure předzpracují na hraničním zařízení. Azure Stack Edge zahrnuje hardware akcelerace výpočetních prostředků, který je navržený tak, aby zlepšil výkon odvozování AI na hraničních zařízeních.
- Místní data. Místní data odkazují na všechna data, která se používají při trénování modelu strojového učení. Data můžou být v libovolném řešení místního úložiště, včetně nasazení Azure Arc.
Komponenty
Podrobnosti scénáře
Potenciální případy použití
Toto řešení je ideální pro telekomunikační průmysl. Mezi typické způsoby použití pro rozšíření odvozování patří:
- Spouštět místní a rychlé odvozování strojového učení proti datům, protože se ingestuje, a máte značné nároky na místní hardware.
- Vytvořte dlouhodobá výzkumná řešení, kde se stávající místní data vyčistí a používají k vygenerování modelu. Model se pak používá místně i v cloudu; pravidelně se natrénuje při příchodu nových dat.
- Vytvářejte softwarové aplikace, které potřebují odvozovat uživatele, a to jak ve fyzickém umístění, tak v online režimu.
Doporučení
Ingestování, transformace a přenos dat uložených místně
Azure Stack Edge může transformovat data zdrojová z místního úložiště před přenosem dat do Azure. Tuto transformaci provádí zařízení Azure IoT Edge nasazené na zařízení Azure Stack Edge. Tato zařízení IoT Edge jsou přidružená k prostředku Azure IoT Hubu na cloudové platformě Azure.
Každý modul IoT Edge je kontejner Dockeru, který provádí konkrétní úlohu v pracovním postupu ingestování, transformace a přenosu. Například modul IoT Edge může shromažďovat data z místní sdílené složky Azure Stack Edge a transformovat je do formátu, který je připravený pro strojové učení. Pak modul přenese transformovaná data do cloudové sdílené složky Azure Stack Edge. Do zařízení IoT Edge můžete přidat vlastní nebo integrované moduly nebo vyvíjet vlastní moduly IoT Edge.
Poznámka:
Moduly IoT Edge jsou zaregistrované jako image kontejnerů Dockeru ve službě Container Registry.
V prostředku Azure Stack Edge na cloudové platformě Azure se cloudová sdílená složka zálohuje prostředkem účtu úložiště objektů blob v Azure. Všechna data v cloudové sdílené složce se automaticky nahrají do přidruženého účtu úložiště. Transformaci a přenos dat můžete ověřit buď připojením místní nebo cloudové sdílené složky, nebo procházením účtu Azure Storage.
Trénování a nasazení modelu
Po přípravě a ukládání dat do úložiště objektů blob můžete vytvořit datovou sadu Učení počítače, která se připojuje ke službě Azure Storage. Datová sada představuje jednu kopii dat v úložišti, na kterou přímo odkazuje počítač Učení.
Pomocí rozhraní příkazového řádku (CLI) počítače Učení, sady R SDK, sady Python SDK, návrháře nebo editoru Visual Studio Code můžete vytvářet skripty potřebné k trénování modelu.
Po trénování a přípravě modelu k nasazení ho můžete nasadit do různých služeb Azure, včetně mimo jiné:
- Azure Container Registry. Modely můžete nasadit do privátního registru Dockeru, jako je Azure Container Registry, protože se jedná o image kontejnerů Dockeru.
- Azure Container Instances. Image kontejneru Dockeru modelu můžete nasadit přímo do skupiny kontejnerů.
- Azure Kubernetes Service. Azure Kubernetes Service můžete použít k automatickému škálování image kontejneru Dockeru modelu pro vysoce škálovaná produkční nasazení.
- Funkce Azure Functions. Model můžete zabalit pro spuštění přímo v instanci funkcí .
- Azure Machine Učení. Pro trénování a odvozování modelů můžete použít výpočetní instance, spravované cloudové vývojové pracovní stanice. Model můžete také nasadit do místních zařízení IoT Edge a Azure Stack Edge .
Poznámka:
Pro tuto referenční architekturu se model nasadí do Azure Stack Edge, aby byl model dostupný pro odvozování místně. Model se také nasadí do služby Container Registry, aby se zajistilo, že je model dostupný pro odvozování napříč širokou škálou služeb Azure.
Odvozování s nově nasazeným modelem
Azure Stack Edge dokáže rychle spouštět modely strojového učení místně s daty místně pomocí integrovaného hardwaru zrychlení výpočetních prostředků. K tomuto výpočtu dochází zcela na okraji. Výsledkem jsou rychlé přehledy z dat pomocí hardwaru, který je blíže ke zdroji dat než oblast veřejného cloudu.
Kromě toho Azure Stack Edge nadále přenáší data do strojového Učení pro průběžné přetrénování a vylepšování pomocí kanálu strojového učení, který je přidružený k modelu, který už běží na datech uložených místně.
Důležité informace
Tyto aspekty implementují pilíře dobře architektuře Azure, což je sada hlavních principů, které je možné použít ke zlepšení kvality úlohy. Další informace naleznete v tématu Microsoft Azure Well-Architected Framework.
Dostupnost
- Zvažte umístění prostředku Azure Stack Edge do stejné oblasti Azure jako jiné služby Azure, které k němu přistupují. Pokud chcete optimalizovat výkon nahrávání, zvažte umístění účtu služby Azure Blob Storage do oblasti, ve které má vaše zařízení nejlepší síťové připojení.
- Zvažte Azure ExpressRoute pro stabilní a redundantní připojení mezi vaším zařízením a Azure.
Možnosti správy
- Správa istrátory můžou ověřit, že zdroj dat z místního úložiště se správně přenesl do prostředku Azure Stack Edge. Můžou ověřit připojením sdílené složky SMB (Server Message Block) nebo systému souborů NFS (Network File System) nebo připojením k přidruženému účtu úložiště objektů blob pomocí Průzkumník služby Azure Storage.
- Pomocí datových sad machine Učení můžete při trénování modelu odkazovat na data v úložišti objektů blob. Odkazování na úložiště eliminuje nutnost vkládat tajné kódy, cesty k datům nebo připojovací řetězec do trénovacích skriptů.
- V pracovním prostoru machine Učení zaregistrujte a sledujte modely strojového učení, abyste mohli sledovat rozdíly mezi modely v různých bodech v čase. Podobně můžete zrcadlit metadata správy verzí a sledování ve značkách, které používáte pro image kontejnerů Dockeru, které se nasazují do Container Registry.
DevOps
- Projděte si přístup ke správě životního cyklu MLOps pro machine Učení. Pomocí GitHubu nebo Azure Pipelines můžete například vytvořit proces kontinuální integrace, který automaticky trénuje a znovu trénuje model. Trénování se dá aktivovat buď při naplnění dat novými daty, nebo se v trénovacích skriptech provede změna.
- Pracovní prostor Azure Machine Učení automaticky zaregistruje a bude spravovat image kontejnerů Dockeru pro modely strojového učení a moduly IoT Edge.
Optimalizace nákladů
Optimalizace nákladů se zabývá způsoby, jak snížit zbytečné výdaje a zlepšit efektivitu provozu. Další informace najdete v tématu Přehled pilíře optimalizace nákladů.
- K odhadu nákladů použijte cenovou kalkulačku Azure.
- Ceny služby Azure Stack Edge se počítají jako měsíční předplatné s jednorázovým poplatkem za dopravu.
- Azure Machine Učení také nasazuje služby Container Registry, Azure Storage a Azure Key Vault, které účtují další náklady. Další informace najdete v tématu Jak azure Machine Učení funguje: Architektura a koncepty.
- Ceny služby Azure Machine Učení zahrnují poplatky za virtuální počítače, které se používají k trénování modelu ve veřejném cloudu.
Další kroky
Produktová dokumentace
Moduly Microsoft Learn: