Nasazení a spuštění kontejneru v instanci kontejneru Azure

Pomocí následujících kroků můžete snadno škálovat aplikace služeb Azure AI v cloudu pomocí Azure Container Instances. Kontejnerizace vám pomůže soustředit se na vytváření aplikací místo správy infrastruktury. Další informace o používání kontejnerů najdete v části věnované funkcím a výhodám.

Požadavky

Tento recept funguje s libovolným kontejnerem služeb Azure AI. Před použitím receptu je nutné vytvořit prostředek služeb Azure AI. Každá služba Azure AI, která podporuje kontejnery, obsahuje článek o instalaci a konfiguraci služby pro kontejner. Některé služby vyžadují soubor nebo sadu souborů jako vstup pro kontejner. Je důležité, abyste před použitím tohoto řešení kontejneru porozuměli a úspěšně ho použili.

• Prostředek Azure pro službu Azure AI, kterou používáte.

• Adresa URL koncového bodu prostředku služby Azure AI – zkontrolujte způsob instalace konkrétní služby pro kontejner a zjistěte, kde se adresa URL koncového bodu nachází v Azure Portal a jak vypadá správný příklad adresy URL. Přesný formát se může změnit mezi službami.

• Klíč prostředku služby Azure AI – klíče jsou na stránce Klíče prostředku Azure. Potřebujete jenom jeden ze dvou klíčů. Klíč je řetězec obsahující 32 alfanumerických znaků.

• Jeden kontejner služeb Azure AI na místním hostiteli (vašem počítači). Ujistěte se, že můžete:

  • Stáhněte obrázek dolů pomocí docker pull příkazu.
  • Pomocí příkazu úspěšně spusťte místní kontejner se všemi požadovanými nastaveními docker run konfigurace.
  • Zavolejte koncový bod kontejneru a ejte zpět odpověď HTTP 2xx a odpověď JSON.

Všechny proměnné v šikmých závorkách <>, musí být nahrazeny vlastními hodnotami. Toto nahrazení zahrnuje úhlové závorky.

Důležité

Kontejner LUIS vyžaduje .gz soubor modelu, který se natahuje za běhu. Kontejner musí být schopný přistupovat k tomuto souboru modelu přes připojený svazek z instance kontejneru. Pokud chcete nahrát soubor modelu, postupujte takto:

1. Vytvořte sdílenou složku Azure. Poznamenejte si název účtu služby Azure Storage, klíč a název sdílené složky, protože je budete potřebovat později.
2. exportujte model LUIS (zabalenou aplikaci) z portálu LUIS.
3. V Azure Portal přejděte na stránku Přehled prostředku účtu úložiště a vyberte Sdílené složky.
4. Vyberte název sdílené složky, kterou jste nedávno vytvořili, a pak vyberte Nahrát. Pak nahrajte zabalenou aplikaci.

Azure Portal

Vytvoření prostředku instance kontejneru Azure pomocí Azure Portal

1. Přejděte na stránku Vytvořit pro Container Instances.

2. Na kartě Základy zadejte následující podrobnosti:

   Nastavení	Hodnota
   Předplatné	Vyberte své předplatné.
   Skupina prostředků	Vyberte dostupnou skupinu prostředků nebo vytvořte novou, například cognitive-services.
   Název kontejneru	Zadejte název, například cognitive-container-instance. Název musí být v dolních temenech.
   Umístění	Vyberte oblast pro nasazení.
   Typ image	Pokud je image kontejneru uložená v registru kontejneru, který nevyžaduje přihlašovací údaje, zvolte Public. Pokud přístup k imagi kontejneru vyžaduje přihlašovací údaje, zvolte Private. Podrobnosti o tom, jestli je Public image kontejneru nebo Private (Public Preview), najdete v úložištích a imagích kontejnerů.
   Název image	Zadejte umístění kontejneru služeb Azure AI. Umístění je to, co se používá jako argument docker pull příkazu. Dostupné názvy imagí a odpovídající úložiště najdete v kontejnerových úložištích a imagích . Název image musí být plně kvalifikovaný a musí obsahovat tři části. Nejprve registr kontejneru, pak úložiště a nakonec název image: <container-registry>/<repository>/<image-name>. Tady je příklad, mcr.microsoft.com/azure-cognitive-services/keyphrase který by představoval image extrakce klíčových frází ve službě Microsoft Container Registry v úložišti služeb Azure AI. Dalším příkladem je containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text obrázek převodu řeči na text v úložišti Microsoftu registru kontejneru Container Preview.
   Typ operačního systému	Linux
   Velikost	Změňte velikost na navrhovaná doporučení pro váš konkrétní kontejner Azure AI: 2 procesorová jádra 4 GB

3. Na kartě Sítě zadejte následující podrobnosti:

   Nastavení	Hodnota
   Porty	Nastavte port TCP na 5000. Zpřístupní kontejner na portu 5000.

4. Na kartě Upřesnit zadejte požadované proměnné prostředí pro nastavení fakturace kontejneru prostředku instance kontejneru:

   Klíč	Hodnota
   ApiKey	Zkopíruje se ze stránky Klíče a koncový bod prostředku. Jedná se o 32 alfanumerických znaků řetězec bez mezer nebo pomlček, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Adresa URL vašeho koncového bodu se zkopírovala ze stránky Klíče a koncový bod prostředku.
   Eula	accept

5. Vyberte Zkontrolovat a vytvořit.

6. Po ověření klikněte na Vytvořit a dokončete proces vytváření.

7. Po úspěšném nasazení je prostředek připravený.

Rozhraní příkazového řádku

Vytvoření prostředku instance kontejneru Azure z Azure CLI

Následující yaml definuje prostředek instance kontejneru Azure. Zkopírujte a vložte obsah do nového souboru s názvem my-aci.yaml a nahraďte komentované hodnoty vlastními. Projděte si formát šablony pro platný YAML. Dostupné názvy imagí a odpovídající úložiště najdete v kontejnerových úložištích a imagích . Další informace o referenčních informacích k YAML pro instance kontejnerů najdete v referenčních informacích k YAML: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Poznámka

Ne všechna umístění mají stejnou dostupnost procesoru a paměti. Seznam dostupných prostředků pro kontejnery podle umístění a operačního systému najdete v tabulce umístění a prostředků .

Budeme spoléhat na soubor YAML, který jsme vytvořili pro příkaz az container create . V Azure CLI spusťte příkaz, který az container create<resource-group> nahradíte vlastním příkazem. Kromě toho pro zabezpečení hodnot v rámci nasazení YAML se podívejte na zabezpečené hodnoty.

az container create -g <resource-group> -f my-aci.yaml

Výstup příkazu je Running... platný, po určité době se výstup změní na řetězec JSON představující nově vytvořený prostředek ACI. Image kontejneru je více než pravděpodobné, že nebude nějakou dobu dostupná, ale prostředek je teď nasazený.

Tip

Věnujte velkou pozornost umístěním služeb Azure AI ve verzi Public Preview, protože YAML bude potřeba odpovídajícím způsobem upravit tak, aby odpovídal umístění.

Použití instance kontejneru

Azure Portal

1. Vyberte Přehled a zkopírujte IP adresu. Bude to číselná IP adresa, například 55.55.55.55.

2. Otevřete novou kartu prohlížeče a použijte IP adresu, http://<IP-address>:5000 (http://55.55.55.55:5000například ). Zobrazí se domovská stránka kontejneru s oznámením, že kontejner běží.

   

3. Vyberte Popis rozhraní API služby a zobrazte stránku swaggeru pro kontejner.

4. Vyberte některé z rozhraní POST API a vyberte Vyzkoušet. Zobrazí se parametry včetně vstupu. Vyplňte parametry.

5. Výběrem možnosti Execute (Spustit ) odešlete požadavek do vaší instance kontejneru.

   Úspěšně jste vytvořili a použili kontejnery Azure AI ve službě Azure Container Instance.

Rozhraní příkazového řádku

Ověření, že je kontejner spuštěný

Existuje několik způsobů, jak ověřit, že je kontejner spuštěný. Vyhledejte externí IP adresu a vystavený port daného kontejneru a otevřete svůj oblíbený webový prohlížeč. Pomocí různých adres URL požadavků, které následují, ověřte, jestli je kontejner spuštěný. Tady uvedené ukázkové adresy URL požadavků jsou http://localhost:5000, ale váš konkrétní kontejner se může lišit. Ujistěte se, že spoléháte na externí IP adresu vašeho kontejneru a vystavený port.

Adresa URL požadavku	Účel
http://localhost:5000/	Kontejner poskytuje domovskou stránku.
http://localhost:5000/ready	Tato adresa URL, kterou vyžaduje get, zajišťuje ověření, že kontejner je připravený přijmout dotaz na model. Tento požadavek je možné použít pro testy aktivity a připravenosti Kubernetes.
http://localhost:5000/status	Tato adresa URL, která je také požadována pomocí get, ověřuje, jestli je klíč api-key použitý ke spuštění kontejneru platný, aniž by způsobil dotaz koncového bodu. Tento požadavek je možné použít pro testy aktivity a připravenosti Kubernetes.
http://localhost:5000/swagger	V kontejneru je ke koncovým bodům a k funkci Vyzkoušet kompletní dokumentace. Pomocí této funkce můžete zadat nastavení do webového formuláře HTML a vytvořit dotaz, aniž byste museli psát kód. Po vrácení dotazu se zobrazí ukázkový příkaz CURL, který předvede požadované hlavičky HTTP a formát textu.

Poznámka

Pokud používáte kontejner Analýza textu for health, použijte k odesílání dotazů následující adresu URL:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health