Share via

Postup upgradu Azure Container Instances webových služeb na spravované online koncové body

  • Článek

Spravované online koncové body pomáhají nasazovat modely ML na klíč. Spravované online koncové body pracují s výkonnými procesory a GPU v Azure škálovatelným a plně spravovaným způsobem. Spravované online koncové body se starají o obsluhu, škálování, zabezpečení a monitorování vašich modelů a osvobodí vás od režijních nákladů na nastavení a správu základní infrastruktury. Podrobnosti najdete v tématu Nasazení a hodnocení modelu strojového učení pomocí online koncového bodu.

S předchozími modely a prostředími můžete provést nasazení přímo do nového cílového výpočetního objektu nebo pomocí námi poskytnutých skriptů exportovat aktuální služby a pak je nasadit do nového výpočetního prostředí, aniž by to mělo vliv na vaše stávající služby. Pokud pravidelně vytváříte a odstraňujete webové služby Azure Container Instances (ACI), důrazně doporučujeme nasazení přímo a bez použití skriptů.

Důležité

Bodovací adresa URL se po upgradu změní. Například bodovací adresa URL pro webovou službu ACI je podobná http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Hodnoticí identifikátor URI spravovaného online koncového bodu je podobný https://endpoint-name.westus.inference.ml.azure.com/score.

Podporované scénáře a rozdíly

Režim ověřování

Pro spravovaný online koncový bod se nepodporuje žádné ověřování. Pokud použijete upgradovací skripty, převede se na ověřování klíčů. Pro ověřování klíčů se použijí původní klíče. Podporuje se také ověřování na základě tokenů.

TLS

Pro službu ACI zabezpečenou pomocí protokolu HTTPS už nemusíte zadávat vlastní certifikáty, všechny spravované online koncové body jsou chráněné protokolem TLS.

Vlastní název DNS není podporovaný.

Požadavky na prostředky

ContainerResourceRequirements se nepodporuje, můžete zvolit správnou skladovou položku pro odvozování. Nástroj pro upgrade namapuje požadavek na procesor nebo paměť na odpovídající skladovou položku. Pokud se rozhodnete provést opětovné nasazení ručně prostřednictvím rozhraní příkazového řádku nebo sady SDK verze 2, doporučujeme také odpovídající skladovou položku pro vaše nové nasazení.

Požadavek procesoru Požadavek na paměť v GB Navrhovaná skladová položka
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" znamená větší než a "]" znamená menší než nebo rovno. Například "(0; 1]" znamená "větší než 0 a menší než nebo rovno 1".

Důležité

Při upgradu z ACI dojde k určitým změnám ve způsobu účtování. Na našem blogu najdete přibližné porovnání nákladů, které vám pomůžou vybrat správné skladové položky virtuálních počítačů pro vaše úlohy.

Izolace sítě

Scénáře privátního pracovního prostoru a virtuální sítě najdete v tématu Použití izolace sítě se spravovanými online koncovými body.

Důležité

Vzhledem k tomu, že pro váš pracovní prostor a virtuální síť existuje mnoho nastavení, důrazně doporučujeme znovu použít rozšíření Azure CLI verze 2 pro strojové učení místo skriptovacího nástroje.

Nepodporováno

  • Vlastnosti šifrování pro kontejner ACI se nepodporují.
  • Nástroj pro upgrade nepodporuje webové služby ACI nasazené prostřednictvím deploy_from_model a deploy_from_image. Znovu proveďte ruční nasazení prostřednictvím rozhraní příkazového řádku nebo sady SDK verze 2.

Kroky při upgradu

S využitím našeho rozhraní příkazového řádku nebo sady SDK

Proveďte ruční nasazení se soubory modelu a definicí prostředí. Naše příklady najdete na azureml-examples. Konkrétně jde o příklad sady SDK pro spravovaný online koncový bod.

Pomocí našeho nástroje pro upgrade

Tento nástroj automaticky vytvoří nový spravovaný online koncový bod na základě vašich stávajících webových služeb. Na vaše původní služby to nebude mít vliv. Provoz můžete bezpečně směrovat do nového koncového bodu a pak odstranit starý koncový bod.

Poznámka

Skript upgradu je ukázkový skript a poskytuje se bez smlouvy o úrovni služeb (SLA).

Skripty spustíte pomocí následujících kroků:

Tip

Nový koncový bod vytvořený skripty se vytvoří ve stejném pracovním prostoru.

  1. Ke spuštění skriptů použijte prostředí Bash. Například relace terminálu v Linuxu nebo Subsystém Windows pro Linux (WSL).

  2. Nainstalujte sadu Python SDK V1 a spusťte skript Pythonu.

  3. Nainstalujte Azure CLI.

  4. Naklonujte úložiště do místního prostředí. Například, git clone https://github.com/Azure/azureml-examples.

  5. Upravte v migrate-service.sh souboru následující hodnoty. Nahraďte hodnoty hodnotami, které platí pro vaši konfiguraci.

    • <SUBSCRIPTION_ID> – ID předplatného Azure, které obsahuje váš pracovní prostor.
    • <RESOURCEGROUP_NAME> – Skupina prostředků, která obsahuje váš pracovní prostor.
    • <WORKSPACE_NAME> – Název pracovního prostoru.
    • <SERVICE_NAME> – Název vaší stávající služby ACI.
    • <LOCAL_PATH> – Místní cesta, kam se stahují prostředky a šablony používané skriptem.
    • <NEW_ENDPOINT_NAME> – Název nového koncového bodu, který se vytvoří. Doporučujeme, aby se název nového koncového bodu lišit od předchozího názvu služby. V opačném případě se původní služba nezobrazí, pokud zkontrolujete koncové body na portálu.
    • <NEW_DEPLOYMENT_NAME> – Název nasazení do nového koncového bodu.

  6. Spusťte skript Bash. Například, ./migrate-service.sh. Dokončení nového nasazení bude trvat přibližně 5 až 10 minut.

    Tip

    Pokud se při pokusu o spuštění skriptu zobrazí chyba oznamující, že skript není spustitelný nebo se otevře editor, označte skript jako spustitelný pomocí následujícího příkazu:

    chmod +x migrate-service.sh

  7. Po úspěšném dokončení nasazení můžete koncový bod ověřit pomocí příkazu az ml online-endpoint invoke .

Kontaktujte nás

Pokud máte jakékoli dotazy nebo zpětnou vazbu týkající se skriptu upgradu, kontaktujte nás na adrese moeonboard@microsoft.com.

Další kroky