Tároló üzembe helyezése és futtatása az Azure Container Instancesben

Az alábbi lépésekkel egyszerűen skálázhatja az Azure AI-szolgáltatások alkalmazásokat a felhőben az Azure Container Instances használatával. A tárolóba helyezés használatával az alkalmazások fejlesztésére koncentrálhat az infrastruktúra kezelése helyett. A tárolók használatával kapcsolatos további információkért lásd: szolgáltatások és előnyök.

Előfeltételek

A recept bármely Azure AI-szolgáltatástárolóval működik. A recept használata előtt létre kell hozni az Azure AI-szolgáltatások erőforrását. Minden tárolót támogató Azure AI-szolgáltatás rendelkezik egy "Telepítés" című cikktel a szolgáltatás tárolóhoz való telepítéséhez és konfigurálásához. Egyes szolgáltatásokhoz fájlra vagy fájlkészletre van szükség a tároló bemeneteként. Fontos, hogy a megoldás használata előtt tisztában legyen a tárolóval, és sikeresen használta azt.

• Egy Azure-erőforrás a használt Azure AI-szolgáltatáshoz.

• Azure AI-szolgáltatás erőforrásvégpontJÁNAK URL-címe – tekintse át az adott szolgáltatás "Telepítés" szakaszát a tárolóhoz, és keresse meg a végpont URL-címét a Azure Portal belülről, és hogy milyen az URL-cím helyes példája. A pontos formátum szolgáltatásról szolgáltatásra változhat.

• Azure AI-szolgáltatás erőforráskulcsa – a kulcsok az Azure-erőforrás Kulcsok lapján találhatók. Csak a két kulcs egyikére van szüksége. A kulcs egy 32 alfanumerikus karakterből álló sztring.

• Egyetlen Azure AI-szolgáltatástároló a helyi gazdagépen (a számítógépen). Győződjön meg arról, hogy:

  • Húzza le a képet egy docker pull paranccsal.
  • Futtassa sikeresen a helyi tárolót az összes szükséges konfigurációs beállítással egy docker run paranccsal.
  • Hívja meg a tároló végpontját, és kap egy HTTP 2xx-választ és egy JSON-választ.

A szögletes zárójelek <>minden változóját a saját értékeire kell cserélni. Ez a csere tartalmazza a szögletes zárójeleket.

Fontos

A LUIS-tárolóhoz szükség van egy .gz modellfájlra, amely futásidőben lesz behúzva. A tárolónak hozzá kell férnie ehhez a modellfájlhoz egy köteten keresztül, amely a tárolópéldányról van csatlakoztatva. Modellfájl feltöltéséhez kövesse az alábbi lépéseket:

1. Azure-fájlmegosztás létrehozása. Jegyezze fel az Azure Storage-fiók nevét, kulcsát és a fájlmegosztás nevét, mert később szüksége lesz rájuk.
2. exportálja a LUIS-modellt (csomagolt alkalmazást) a LUIS-portálról.
3. A Azure Portal lépjen a tárfiók-erőforrás Áttekintés lapjára, és válassza a Fájlmegosztások lehetőséget.
4. Válassza ki a nemrég létrehozott fájlmegosztás nevét, majd válassza a Feltöltés lehetőséget. Ezután töltse fel a csomagolt alkalmazást.

Azure Portal

Azure Container Instance-erőforrás létrehozása a Azure Portal

1. Lépjen a Létrehozás lapra a Container Instances.

2. Az Alapok lapon adja meg a következő adatokat:

   Beállítás	Érték
   Előfizetés	Válassza ki előfizetését.
   Erőforráscsoport	Válassza ki az elérhető erőforráscsoportot, vagy hozzon létre egy újat, például cognitive-services: .
   Tárolónév	Adjon meg egy nevet, például cognitive-container-instance: . A névnek alsó korlátban kell lennie.
   Hely	Válasszon ki egy régiót az üzembe helyezéshez.
   Lemezkép típusa	Ha a tárolórendszerképet olyan tárolóregisztrációs adatbázisban tárolja, amelyhez nincs szükség hitelesítő adatokra, válassza a Publiclehetőséget. Ha a tárolórendszerkép eléréséhez hitelesítő adatokra van szükség, válassza a lehetőséget Private. A tárolórendszerkép PublicPrivate vagy a ("Nyilvános előzetes verzió") részleteiért tekintse meg a tárolóadattárakat és a rendszerképeket.
   Rendszerkép neve	Adja meg az Azure AI-szolgáltatások tárolóhelyét. A hely a parancs argumentumaként docker pull használatos. Tekintse meg a tárolótárakat és a rendszerképeket az elérhető képnevekről és azok megfelelő adattárairól. A kép nevének teljes mértékben minősítettnek kell lennie, amely három részből áll. Először a tárolóregisztrációs adatbázist, majd az adattárat, végül a rendszerkép nevét: <container-registry>/<repository>/<image-name>. Íme egy példa a mcr.microsoft.com/azure-cognitive-services/keyphrase Key Phrase Extraction rendszerképre a Microsoft Container Registryben, az Azure AI-szolgáltatások adattárában. Egy másik példa a containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text Beszéd szöveggé alakítása kép a Container Preview tárolóregisztrációs adatbázis Microsoft-adattárában.
   Operációs rendszer típusa	Linux
   Méret	Módosítsa a méretet az adott Azure AI-tárolóra vonatkozó javasolt javaslatokra: 2 processzormag 4 GB

3. A Hálózat lapon adja meg a következő adatokat:

   Beállítás	Érték
   Portok	Állítsa a TCP-portot a értékre 5000. Elérhetővé teszi a tárolót az 5000-s porton.

4. A Speciális lapon adja meg az Azure Container Instance erőforrás tároló számlázási beállításaihoz szükséges környezeti változókat :

   Kulcs	Érték
   ApiKey	Az erőforrás Kulcsok és végpont lapjáról másolva. Ez egy 32 alfanumerikus karakterből álló sztring szóközök vagy kötőjelek nélkül, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	A végpont URL-címe az erőforrás Kulcsok és végpont lapjáról másolt.
   Eula	accept

5. Válassza a Véleményezés és létrehozás lehetőséget

6. Az ellenőrzés sikeres elvégzése után kattintson a Létrehozás gombra a létrehozási folyamat befejezéséhez

7. Az erőforrás sikeres üzembe helyezése után készen áll

Parancssori felület

Azure Container Instance-erőforrás létrehozása az Azure CLI-ből

Az alábbi YAML határozza meg az Azure Container Instance erőforrást. Másolja és illessze be a tartalmat egy új fájlba, elnevezve my-aci.yaml , és cserélje le a megjegyzésben szereplő értékeket a sajátjára. Tekintse meg az érvényes YAML sablonformátumát . Tekintse meg a tárolótárakat és a rendszerképeket az elérhető képnevekről és azok megfelelő adattárairól. A tárolópéldányok YAML-referenciáját a YAML-referencia: Azure Container Instances című témakörben talál.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Megjegyzés

Nem minden hely rendelkezik ugyanazzal a processzor- és memória-rendelkezésre állási ponttal. A tárolókhoz elérhető erőforrások helyenkénti és operációs rendszerenkénti felsorolásához tekintse meg a hely és az erőforrások táblázatát.

A parancshoz az container create létrehozott YAML-fájlra támaszkodunk. Az Azure CLI-ben hajtsa végre a az container create parancsot a sajátjára cserélve <resource-group> . Emellett a YAML-környezeten belüli értékek biztonságossá tételéhez tekintse meg a biztonságos értékeket.

az container create -g <resource-group> -f my-aci.yaml

A parancs Running... kimenete érvényes, miután a kimenet egy JSON-sztringre változik, amely az újonnan létrehozott ACI-erőforrást jelöli. A tárolórendszerkép valószínűleg egy ideig nem érhető el, de az erőforrás üzembe lett helyezve.

Tipp

Ügyeljen az Azure AI-szolgáltatások nyilvános előzetes verziójában található helyekre, mivel a YAML-t a helynek megfelelően kell módosítani.

A tárolópéldány használata

Azure Portal

1. Válassza az Áttekintés lehetőséget , és másolja ki az IP-címet. Ez egy numerikus IP-cím lesz, például 55.55.55.55.

2. Nyisson meg egy új böngészőlapot, és használja az IP-címet( például http://<IP-address>:5000 (http://55.55.55.55:5000). Ekkor megjelenik a tároló kezdőlapja, amely tájékoztatja arról, hogy a tároló fut.

   

3. Válassza a Service API Description (Szolgáltatás API leírása ) lehetőséget a tároló swagger oldalának megtekintéséhez.

4. Válassza ki bármelyik POST API-t, és válassza a Kipróbálás lehetőséget. A paraméterek a bemenettel együtt jelennek meg. Adja meg a paramétereket.

5. Válassza a Végrehajtás lehetőséget a kérés tárolópéldánynak való elküldéséhez.

   Sikeresen létrehozott és használt Azure AI-tárolókat az Azure Container Instance-ben.

Parancssori felület

Annak ellenőrzése, hogy egy tároló fut-e

A tároló futásának ellenőrzésére többféleképpen is lehetőség van. Keresse meg a szóban forgó tároló külső IP-címét és közzétett portját, és nyissa meg a kedvenc webböngészőt. A tároló futásának ellenőrzéséhez használja az alábbi kérési URL-címeket. Az itt felsorolt példakérési URL-címek a következők, http://localhost:5000de az adott tároló eltérő lehet. Ügyeljen arra, hogy a tároló külső IP-címére és közzétett portjára támaszkodjon.

Kérelem URL-címe	Cél
http://localhost:5000/	A tároló egy kezdőlappal rendelkezik.
http://localhost:5000/ready	A GET használatával kért URL-cím ellenőrzi, hogy a tároló készen áll-e a modell lekérdezésének elfogadására. Ez a kérés használható a Kubernetes-beli élettartam- és készültségi mintavételekhez.
http://localhost:5000/status	A GET használatával is kért URL-cím ellenőrzi, hogy a tároló elindításához használt API-kulcs érvényes-e végpontlekérdezés nélkül. Ez a kérés használható a Kubernetes-beli élettartam- és készültségi mintavételekhez.
http://localhost:5000/swagger	A tároló átfogó dokumentációval is rendelkezik a végpontokhoz, valamint egy kipróbálás funkcióval is. Ezzel a funkcióval beírhatja a beállításokat egy webes HTML-űrlapba, és anélkül végezheti el a lekérdezést, hogy kódot kellene írnia. A lekérdezés visszaadása után megjelenik egy példa CURL-parancs, amely bemutatja a szükséges HTTP-fejléceket és törzsformátumot.

Megjegyzés

Ha a Text Analytics állapottárolót futtatja, a lekérdezések elküldéséhez használja az alábbi URL-címet:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health