Co je MLOps pro IoT Edge?
MLOps (DevOps pro strojové učení) umožňuje odborníkům na práci s daty a týmům IT spolupracovat na vývoji a nasazení modelů a zrychlit tempo vývoje prostřednictvím monitorování, ověřování a správného řízení modelů strojového učení. Organizace, která nasadí MLOps, získá řadu výhod:
Zvýšení hodnoty modelu: Na rozdíl od kódu se modely v průběhu času zhoršují kvůli posunu dat, pokud je neudržuje. Pokud nasadíte MLOps, zhodnotíte své modely a zachováte jejich hodnotu v čase, protože umožníte jejich opětovné trénování, aby byly aktuální.
Integrace pracovního postupu pro vývojáře a datové vědy: MLOps má za cíl integrovat vývojářský pracovní postup (řízený DevOps) do procesů datového vědce. Pokud nejsou pracovní postupy vývojářů a odborníků na práci s daty integrované, může to být pro společnost nákladné a neproduktivní. Pracovní postup odborníka na práci s daty začíná experimentováním. Odborníci na práci s daty nejprve věnují hodně času analýze funkcí, tvarování dat a zjišťování nejlepšího algoritmu. K vytvoření modelu přistoupí až po této experimentální fázi. Když odborník na práci s daty vytvoří životaschopný model, začne spolupracovat s vývojáři na jeho integraci do aplikace. Naproti tomu pracovní postup vývojáře začíná psaním kódu a jeho vrácením se změnami do kanálu DevOps. Vývojáři upřednostňují správu životního cyklu aplikace v DevOps. DevOps nabízí kanál pro správu verzí, testování, kompilaci a také nástroje pro nasazení. V ideálním případě DevOps nabízí také plně automatický kanál CI/CD – většinou prostřednictvím úložiště GitHub. Vytvořením jediného pracovního postupu pro datové vědce a vývojáře zvýšíte spolupráci a zlepšíte produktivitu.
Aspekty nasazení: Implementací MLOps můžete vytvořit ucelený kanál, který může podporovat nasazení nových modelů do různých typů platforem. Modely můžete nasazovat ve formátech PNNL nebo ONNX s použitím rozhraní API. Nasazovat můžete na nejrůznější cílové platformy, jako je IoT Edge nebo na specializovaný hardware, jako jsou programovatelná hradlová pole FPGA.
Zjednodušená konfigurace: Můžete začlenit správu tajných kódů a správu koncových bodů služby, abyste zjednodušili konfiguraci modelů.
Zvýšení efektivity pracovního postupu: Přijetím MLOps můžete zvýšit efektivitu pracovních postupů nasazení modelu. Můžete zrychlit experimentování a vývoj modelů a současně zachovat jejich kvalitu.
Zaregistrujte a sledujte modely ML: Můžete registrovat modely, zaznamenávat zásady správného řízení, data protokolů pro modely, auditovat změny modelů, ukládat historii spuštění modelu, upozorňovat a upozorňovat na události v životním cyklu ML (např. detekce odchylek dat).
Automatizace kompletního životního cyklu STROJOVÉho učení pomocí azure machine Učení a Azure Pipelines: Trénovací proces můžete převést na reprodukovatelný kanál. Kanály strojového učení můžete použít ke spojení různých kroků, ze kterých se skládá proces trénování modelu, jako je příprava dat, extrakce funkcí, ladění hyperparametrů, hodnocení modelů atd. Tyto kroky jsou reprodukovatelné jako celek (tzn. jako jeden kanál).
Modely balíčků a ladění: Modely jsou zabalené do image Dockeru pro nasazení. Před nasazením můžete problémy s imagí odladit na místním počítači.
Modely ověření a profilování: Modely můžete profilovat a určit ideální nastavení procesoru a paměti pro nasazení.
Průběžné přetrénování: Pomocí kanálů můžete na základě určitých kritérií vytvořit průběžné přetrénování modelů, jako je například zadaná dostupnost plánu opětovného trénování nových dat nebo posunu dat.