Sdílet prostřednictvím


Kurz: Designer – nasazení modelu strojového učení

Pomocí návrháře nasaďte model strojového učení k predikci ceny aut. Tento kurz je druhou částí z dvoudílné série.

Poznámka

Designer podporuje dva typy komponent, klasické předem připravené komponenty (v1) a vlastní komponenty (v2). Tyto dva typy komponent nejsou kompatibilní.

Klasické předem připravené komponenty poskytují předem připravené komponenty hlavně pro zpracování dat a tradiční úlohy strojového učení, jako je regrese a klasifikace. Tento typ komponenty se podporuje i nadále, ale nebudou se přidávat žádné nové komponenty.

Vlastní komponenty umožňují zabalit vlastní kód jako komponentu. Podporuje sdílení komponent napříč pracovními prostory a bezproblémové vytváření obsahu v rozhraních Studia, ROZHRANÍ PŘÍKAZOVÉHO ŘÁDKU v2 a SDK v2.

U nových projektů důrazně doporučujeme použít vlastní komponentu, která je kompatibilní s AzureML v2 a bude dál dostávat nové aktualizace.

Tento článek se týká klasických předem připravených komponent, které nejsou kompatibilní s rozhraním příkazového řádku v2 a sadou SDK v2.

V první části kurzu jste natrénovali lineární regresní model cen aut. Ve druhé části nasadíte model, aby ho ostatní mohli používat. V tomto kurzu jste:

  • Vytvořte kanál odvozování v reálném čase.
  • Vytvořte cluster pro odvozování.
  • Nasaďte koncový bod v reálném čase.
  • Otestujte koncový bod v reálném čase.

Požadavky

Dokončete první část kurzu a zjistěte, jak trénovat a ohodnocovat model strojového učení v návrháři.

Důležité

Pokud se v tomto dokumentu nezobrazují grafické prvky, jako jsou tlačítka v aplikaci Studio nebo návrhář, pravděpodobně nemáte správnou úroveň oprávnění k pracovnímu prostoru. Obraťte se na správce předplatného Azure a ověřte, že vám byla udělena správná úroveň přístupu. Další informace najdete v tématu Správa uživatelů a rolí.

Vytvoření kanálu odvozování v reálném čase

Pokud chcete nasadit kanál, musíte nejprve převést trénovací kanál na kanál pro odvozování v reálném čase. Při tomto procesu budou odebrány trénovací komponenty a přidány vstupy a výstupy webové služby pro zpracování žádostí.

Poznámka

Kanál vytvoření odvozování podporuje pouze trénovací kanály, které obsahují pouze předdefinované komponenty návrháře a musí mít komponentu, jako je trénování modelu , která výstupem natrénovaného modelu.

Vytvoření kanálu odvozování v reálném čase

  1. Na stránce podrobností úlohy kanálu nad plátnem kanálu vyberte Vytvořit kanál> odvozování vreálném čase.

    Snímek obrazovky s vytvořením kanálu odvozování na stránce podrobností úlohy kanálu

    Váš nový kanál teď bude vypadat takto:

    Snímek obrazovky znázorňující očekávanou konfiguraci kanálu po jeho přípravě na nasazení

    Když vyberete Vytvořit kanál odvozování, stane se několik věcí:

    • Natrénovaný model se uloží jako součást datové sady na paletě komponent. Najdete ho v části Moje datové sady.
    • Trénovací komponenty, jako je trénování modelu a rozdělení dat , se odeberou.
    • Uložený natrénovaný model se přidá zpět do kanálu.
    • Přidají se komponenty Vstup webové služby a Výstup webové služby. Tyto komponenty ukazují, kde uživatelská data vstupují do kanálu a kde se vrací.

    Poznámka

    Ve výchozím nastavení bude vstup webové služby očekávat stejné schéma dat jako výstupní data komponenty, která se připojí ke stejnému podřízeného portu jako ona. V této ukázce se vstup webové služby a data ceny automobilů (Nezpracované) připojují ke stejné podřízené komponentě, proto vstup webové služby očekává stejné schéma dat, jako je ve schématu zahrnutá data cen automobilů (Raw) a sloupec price cílové proměnné. Při vyhodnocování dat ale obvykle nebudete znát hodnoty cílové proměnné. V takovém případě můžete odebrat sloupec cílové proměnné v kanálu odvozování pomocí komponenty Vybrat sloupce v datové sadě . Ujistěte se, že výstup vybrat sloupce ve sloupci Odebrání cílové proměnné datové sady je připojený ke stejnému portu jako výstup komponenty Vstup webové služby .

  2. Vyberte Odeslat a použijte stejný výpočetní cíl a experiment, který jste použili v první části.

    Pokud se jedná o první úlohu, může trvat až 20 minut, než se kanál dokončí. Výchozí nastavení výpočetních prostředků má minimální velikost uzlu 0, což znamená, že návrhář musí přidělit prostředky po nečinnosti. Opakované úlohy kanálu budou trvat kratší dobu, protože výpočetní prostředky už jsou přidělené. Kromě toho návrhář používá výsledky uložené v mezipaměti pro každou komponentu k dalšímu zvýšení efektivity.

  3. Přejděte na podrobnosti úlohy kanálu odvozování v reálném čase tak, že v levém podokně vyberete Odkaz na podrobnosti úlohy .

  4. Na stránce s podrobnostmi úlohy vyberte Nasadit .

    Snímek obrazovky znázorňující nasazení na stránce podrobností úlohy

Vytvoření clusteru pro odvozování

V zobrazeném dialogovém okně můžete vybrat některý z existujících clusterů Azure Kubernetes Service (AKS), do kterého chcete model nasadit. Pokud cluster AKS nemáte, vytvořte ho následujícím postupem.

  1. V dialogovém okně, které se zobrazí, vyberte Compute a přejděte na stránku Výpočty .

  2. Na navigačním pásu karet vyberte Odvozovat clustery>+ Nový.

    Snímek obrazovky znázorňující, jak se dostat do nového podokna clusteru odvozovat

  3. V podokně clusteru odvozovat nakonfigurujte novou službu Kubernetes Service.

  4. Jako název compute zadejte aks-compute.

  5. Vyberte oblast v okolí, která je pro oblast dostupná.

  6. Vyberte Vytvořit.

    Poznámka

    Vytvoření nové služby AKS trvá přibližně 15 minut. Stav zřizování můžete zkontrolovat na stránce Clustery odvozování .

Nasazení koncového bodu v reálném čase

Po dokončení zřizování služby AKS se vraťte do kanálu odvozování v reálném čase a dokončete nasazení.

  1. Vyberte Nasadit nad plátnem.

  2. Vyberte Nasadit nový koncový bod v reálném čase.

  3. Vyberte cluster AKS, který jste vytvořili.

    Snímek obrazovky ukazující, jak nastavit nový koncový bod v reálném čase

    Můžete také změnit upřesňující nastavení pro koncový bod v reálném čase.

    Upřesňující nastavení Popis
    Povolení diagnostiky a shromažďování dat Application Insights Jestli chcete službě Aplikace Azure Insights povolit shromažďování dat z nasazených koncových bodů.
    Ve výchozím nastavení: false.
    Časový limit bodování Časový limit v milisekundách, který se má vynutit při vyhodnocování volání webové služby.
    Ve výchozím nastavení: 60000.
    Automatické škálování povoleno Jestli chcete povolit automatické škálování pro webovou službu.
    Ve výchozím nastavení: true.
    Minimální počet replik Minimální počet kontejnerů, které se mají použít při automatickém škálování této webové služby.
    Ve výchozím nastavení: 1.
    Maximální počet replik Maximální počet kontejnerů, které se mají použít při automatickém škálování této webové služby.
    Ve výchozím nastavení: 10.
    Cílové využití Cílové využití (v procentech ze 100), které by se automatické škálování mělo pokusit zachovat pro tuto webovou službu.
    Ve výchozím nastavení: 70.
    Období aktualizace Jak často (v sekundách) se automatické škálování pokusí škálovat tuto webovou službu.
    Ve výchozím nastavení: 1.
    Záložní kapacita procesoru Počet jader procesoru, která se mají přidělit této webové službě.
    Ve výchozím nastavení: 0,1.
    Paměťová rezerva Velikost paměti (v GB), která se má přidělit této webové službě.
    Ve výchozím nastavení: 0,5.
  4. Vyberte Nasadit.

    Po dokončení nasazení se z centra oznámení zobrazí oznámení o úspěchu. Může to trvat několik minut.

    Snímek obrazovky s oznámením o nasazení

Tip

Nasazení do služby Azure Container Instance (ACI) můžete provést také v případě, že v poli pro nastavení koncového bodu v reálném čase vyberete Azure Container Instance jako Typ výpočetních prostředků . Azure Container Instance se používá k testování nebo vývoji. ACI používejte pro úlohy s nízkým škálováním založené na procesoru, které vyžadují méně než 48 GB paměti RAM.

Testování koncového bodu v reálném čase

Po dokončení nasazení můžete zobrazit koncový bod v reálném čase na stránce Koncové body .

  1. Na stránce Koncové body vyberte koncový bod, který jste nasadili.

    Na kartě Podrobnosti najdete další informace, jako je identifikátor REST URI, definice Swaggeru, stav a značky.

    Na kartě Využívání najdete vzorový kód spotřeby, klíče zabezpečení a nastavení metod ověřování.

    Na kartě Protokoly nasazení najdete podrobné protokoly nasazení koncového bodu v reálném čase.

  2. Pokud chcete otestovat koncový bod, přejděte na kartu Test . Tady můžete zadat testovací data a vybrat Test ověřit výstup vašeho koncového bodu.

Aktualizace koncového bodu v reálném čase

Online koncový bod můžete aktualizovat pomocí nového modelu natrénovaného v návrháři. Na stránce s podrobnostmi o online koncovém bodu vyhledejte svoji předchozí úlohu trénovacího kanálu a úlohu kanálu odvozování.

  1. Koncept trénovacího kanálu můžete najít a upravit přímo na domovské stránce návrháře.

    Nebo můžete otevřít odkaz na úlohu trénovacího kanálu a pak ho naklonovat do nového konceptu kanálu a pokračovat v úpravách.

    Snímek obrazovky s odkazem na trénovací úlohu na stránce podrobností koncového bodu

  2. Po odeslání upraveného trénovacího kanálu přejděte na stránku podrobností úlohy.

  3. Po dokončení úlohy klikněte pravým tlačítkem na Trénování modelu a vyberte Zaregistrovat data.

    Snímek obrazovky znázorňující registraci vytrénovaného modelu jako datové sady

    Zadejte název a vyberte Typ souboru .

    Snímek obrazovky s registrací jako datovým assetem s vybraným novým datovým assetem

  4. Po úspěšné registraci datové sady otevřete koncept kanálu odvozování nebo naklonujte předchozí úlohu kanálu odvozování do nového konceptu. V konceptu kanálu odvozování nahraďte předchozí vytrénovaný model zobrazený jako uzel MD-XXXX připojený ke komponentě Určení skóre modelu nově zaregistrovanou datovou sadou.

    Snímek obrazovky znázorňující, jak upravit kanál odvozování

  5. Pokud potřebujete aktualizovat část předběžného zpracování dat ve vašem trénovacím kanálu a chcete ji aktualizovat do kanálu odvozování, zpracování je podobné jako výše uvedený postup.

    Stačí zaregistrovat výstup transformace komponenty transformace jako datovou sadu.

    Pak ručně nahraďte komponentu TD- v kanálu odvozování zaregistrovanou datovou sadou.

    Snímek obrazovky znázorňující, jak nahradit transformační komponentu

  6. Po úpravě kanálu odvozování pomocí nově natrénovaného modelu nebo transformace ho odešlete. Po dokončení úlohy ji nasaďte do existujícího online koncového bodu nasazeného dříve.

    Snímek obrazovky, který ukazuje, jak nahradit existující koncový bod v reálném čase

Omezení

  • Z důvodu omezení přístupu k úložišti dat platí, že pokud váš kanál odvozování obsahuje komponentu Import dat nebo Export dat , při nasazení do koncového bodu v reálném čase se automaticky odeberou.

  • Pokud máte datové sady v kanálu odvozování v reálném čase a chcete je nasadit do koncového bodu v reálném čase, tento tok v současné době podporuje pouze datové sady zaregistrované z úložiště dat objektů blob . Pokud chcete použít datové sady z jiných typů úložišť dat, můžete použít možnost Vybrat sloupec a připojit se k počáteční datové sadě s nastavením výběru všech sloupců, zaregistrovat výstupy možnosti Vybrat sloupec jako datovou sadu Soubor a pak nahradit počáteční datovou sadu v kanálu pro odvozování v reálném čase touto nově zaregistrovanou datovou sadou.

  • Pokud graf odvození obsahuje komponentu Zadat data ručně, která není připojená ke stejnému portu jako komponenta Vstup webové služby, komponenta Zadat data ručně se během zpracování volání HTTP nespustí. Alternativním řešením je zaregistrovat výstupy této komponenty Zadat data ručně jako datovou sadu a pak v konceptu kanálu odvozování nahradit komponentu Zadat data ručně zaregistrovanou datovou sadou.

    Snímek obrazovky znázorňující, jak upravit kanál odvozování obsahující komponentu pro ruční zadávání dat

Vyčištění prostředků

Důležité

Prostředky, které jste vytvořili, můžete využít jako předpoklady pro jiné kurzy a články s postupy pro Azure Machine Learning.

Odstranit všechno

Pokud neplánujete používat nic, co jste vytvořili, odstraňte celou skupinu prostředků, aby se vám neúčtovaly žádné poplatky.

  1. V Azure Portal vyberte na levé straně okna Skupiny prostředků.

    Odstranění skupiny prostředků na webu Azure Portal

  2. V seznamu vyberte skupinu prostředků, kterou jste vytvořili.

  3. Vyberte Odstranit skupinu prostředků.

Odstraněním skupiny prostředků se odstraní také všechny prostředky, které jste vytvořili v návrháři.

Odstranění jednotlivých prostředků

V návrháři, ve kterém jste experiment vytvořili, odstraňte jednotlivé prostředky tak, že je vyberete a pak vyberete tlačítko Odstranit .

Cílový výpočetní objekt, který jste zde vytvořili, se automaticky škáluje na nula uzlů, když se nepoužívá. Tato akce se provádí za účelem minimalizace poplatků. Pokud chcete cílový výpočetní objekt odstranit, postupujte takto:

Odstranění prostředků

Registraci datových sad v pracovním prostoru můžete zrušit tak, že vyberete každou datovou sadu a vyberete Zrušit registraci.

Zrušení registrace datové sady

Pokud chcete datovou sadu odstranit, přejděte do účtu úložiště pomocí Azure Portal nebo Průzkumník služby Azure Storage a tyto prostředky odstraňte ručně.

Další kroky

V tomto kurzu jste se seznámili s klíčovými kroky při vytváření, nasazování a používání modelu strojového učení v návrháři. Další informace o použití návrháře najdete na následujících odkazech: