Container implementeren en uitvoeren in Azure Container Instance

Met de volgende stappen kunt u Azure AI-servicestoepassingen eenvoudig schalen in de cloud met Azure Container Instances. Containerisatie helpt u om u te richten op het bouwen van uw toepassingen in plaats van op het beheren van de infrastructuur. Zie functies en voordelen voor meer informatie over het gebruik van containers.

Vereisten

Het recept werkt met elke Azure AI-servicescontainer. De Resource voor Azure AI-services moet worden gemaakt voordat u het recept kunt gebruiken. Elke Azure AI-service die containers ondersteunt, heeft een artikel 'Installeren' voor het installeren en configureren van de service voor een container. Sommige services vereisen een bestand of set bestanden als invoer voor de container. Het is belangrijk dat u de container begrijpt en met succes hebt gebruikt voordat u deze oplossing gebruikt.

• Een Azure-resource voor de Azure AI-service die u gebruikt.

• Eindpunt-URL van Azure AI-serviceresource: bekijk de 'How to install' van uw specifieke service voor de container om te zien waar de eindpunt-URL zich bevindt in de Azure Portal en hoe een correct voorbeeld van de URL eruitziet. De exacte indeling kan van service naar service worden gewijzigd.

• Resourcesleutel voor Azure AI-service: de sleutels bevinden zich op de pagina Sleutels voor de Azure-resource. U hebt slechts één van de twee sleutels nodig. De sleutel is een tekenreeks van 32 alfanumerieke tekens.

• Eén Azure AI Services-container op uw lokale host (uw computer). Zorg ervoor dat u het volgende kunt doen:

  • Sleep de afbeelding omlaag met een docker pull opdracht.
  • Voer de lokale container uit met alle vereiste configuratie-instellingen met een docker run opdracht.
  • Roep het eindpunt van de container aan en krijg een antwoord van HTTP 2xx en een JSON-antwoord terug.

Alle variabelen tussen punthaken, <>, moeten worden vervangen door uw eigen waarden. Deze vervanging omvat de punthaken.

Belangrijk

Voor de LUIS-container is een .gz modelbestand vereist dat tijdens runtime wordt opgehaald. De container moet toegang hebben tot dit modelbestand via een volumekoppeling van de containerinstantie. Voer de volgende stappen uit om een modelbestand te uploaden:

1. Maak een Azure-bestandsshare. Noteer de naam, sleutel en bestandssharenaam van het Azure Storage-account, aangezien u deze later nodig hebt.
2. uw LUIS-model (verpakte app) exporteren vanuit de LUIS-portal.
3. Ga in de Azure Portal naar de pagina Overzicht van uw opslagaccountresource en selecteer Bestandsshares.
4. Selecteer de naam van de bestandsshare die u onlangs hebt gemaakt en selecteer vervolgens Uploaden. Upload vervolgens uw verpakte app.

Azure-portal

Een Azure Container Instance-resource maken met behulp van de Azure Portal

1. Ga naar de pagina Maken voor Container Instances.

2. Voer op het tabblad Basisinformatie de volgende gegevens in:

   Instelling	Waarde
   Abonnement	Selecteer uw abonnement.
   Resourcegroep	Selecteer de beschikbare resourcegroep of maak een nieuwe, zoals cognitive-services.
   Containernaam	Voer een naam in, zoals cognitive-container-instance. De naam moet in kleine hoofdletters staan.
   Locatie	Selecteer een regio voor implementatie.
   Type installatiekopie	Als uw containerinstallatiekopieën zijn opgeslagen in een containerregister waarvoor geen referenties zijn vereist, kiest u Public. Als voor toegang tot uw containerinstallatiekopieën referenties zijn vereist, kiest u Private. Raadpleeg containeropslagplaatsen en installatiekopieën voor meer informatie over of de containerinstallatiekopieën of Private ('Openbare preview') zijnPublic.
   Naam van installatiekopie	Voer de containerlocatie van Azure AI-services in. De locatie wordt gebruikt als argument voor de docker pull opdracht. Raadpleeg de containeropslagplaatsen en installatiekopieën voor de beschikbare installatiekopieën en de bijbehorende opslagplaats. De naam van de installatiekopieën moet volledig gekwalificeerd zijn, waarbij drie delen worden opgegeven. Eerst het containerregister en vervolgens de opslagplaats, ten slotte de naam van de installatiekopieën: <container-registry>/<repository>/<image-name>. Hier volgt een voorbeeld dat mcr.microsoft.com/azure-cognitive-services/keyphrase de installatiekopie sleuteltermextractie vertegenwoordigt in het Microsoft Container Registry onder de Opslagplaats voor Azure AI-services. Een ander voorbeeld is, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text dat de afbeelding spraak-naar-tekst vertegenwoordigt in de Microsoft-opslagplaats van het containerregister Container Preview.
   Type besturingssysteem	Linux
   Grootte	Wijzig de grootte in de voorgestelde aanbevelingen voor uw specifieke Azure AI-container: 2 CPU-kernen 4 GB

3. Voer op het tabblad Netwerken de volgende gegevens in:

   Instelling	Waarde
   Poorten	Stel de TCP-poort in op 5000. Hiermee wordt de container weergegeven op poort 5000.

4. Voer op het tabblad Geavanceerd de vereiste omgevingsvariabelen in voor de instellingen voor containerfacturering van de Azure Container Instance-resource:

   Sleutel	Waarde
   ApiKey	Gekopieerd van de pagina Sleutels en eindpunt van de resource. Het is een tekenreeks van 32 alfanumerieke tekens zonder spaties of streepjes, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	De eindpunt-URL die u hebt gekopieerd van de pagina Sleutels en eindpunt van de resource.
   Eula	accept

5. Selecteer Controleren en maken

6. Nadat de validatie is geslaagd, klikt u op Maken om het aanmaakproces te voltooien

7. Wanneer de resource is geïmplementeerd, is deze gereed

CLI

Een Azure Container Instance-resource maken vanuit de Azure CLI

De onderstaande YAML definieert de Azure Container Instance-resource. Kopieer en plak de inhoud in een nieuw bestand, met de naam my-aci.yaml en vervang de waarden met opmerkingen door uw eigen. Raadpleeg de sjabloonindeling voor geldige YAML. Raadpleeg de containeropslagplaatsen en installatiekopieën voor de beschikbare installatiekopieën en de bijbehorende opslagplaats. Zie YAML-verwijzing: Azure Container Instances voor meer informatie over de YAML-verwijzing voor containerinstanties.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Notitie

Niet alle locaties hebben dezelfde CPU- en geheugen-beschikbaarheid. Raadpleeg de tabel locatie en resources voor de lijst met beschikbare resources voor containers per locatie en besturingssysteem.

We vertrouwen op het YAML-bestand dat we hebben gemaakt voor de az container create opdracht. Voer vanuit de Azure CLI de az container create opdracht uit waarbij u de <resource-group> vervangt door uw eigen opdracht. Voor het beveiligen van waarden binnen een YAML-implementatie verwijst u bovendien naar beveiligde waarden.

az container create -g <resource-group> -f my-aci.yaml

De uitvoer van de opdracht is Running... indien geldig. Na enige tijd verandert de uitvoer in een JSON-tekenreeks die de zojuist gemaakte ACI-resource vertegenwoordigt. De containerinstallatiekopie is waarschijnlijk een tijdje niet beschikbaar, maar de resource is nu geïmplementeerd.

Tip

Let goed op de locaties van Azure AI-services in openbare preview, omdat de YAML dienovereenkomstig moet worden aangepast aan de locatie.

Het containerexemplaren gebruiken

Azure-portal

1. Selecteer overzicht en kopieer het IP-adres. Dit is een numeriek IP-adres, zoals 55.55.55.55.

2. Open een nieuw browsertabblad en gebruik het IP-adres, http://<IP-address>:5000 (http://55.55.55.55:5000bijvoorbeeld ). U ziet de startpagina van de container, zodat u weet dat de container wordt uitgevoerd.

   

3. Selecteer Beschrijving van service-API om de swagger-pagina voor de container weer te geven.

4. Selecteer een van de POST-API's en selecteer Uitproberen. De parameters worden weergegeven, inclusief de invoer. Vul de parameters in.

5. Selecteer Uitvoeren om de aanvraag naar uw containerinstantie te verzenden.

   U hebt Azure AI-containers gemaakt en gebruikt in Azure Container Instance.

CLI

Controleren of een container wordt uitgevoerd

Er zijn verschillende manieren om te controleren of de container wordt uitgevoerd. Zoek het externe IP-adres en de weergegeven poort van de betreffende container en open uw favoriete webbrowser. Gebruik de verschillende aanvraag-URL's die volgen om te controleren of de container wordt uitgevoerd. De hier vermelde voorbeeldaanvraag-URL's zijn http://localhost:5000, maar uw specifieke container kan variëren. Zorg ervoor dat u vertrouwt op het externe IP-adres en de weergegeven poort van uw container.

Aanvraag-URL	Doel
http://localhost:5000/	De container bevat een startpagina.
http://localhost:5000/ready	Deze URL is aangevraagd met GET en biedt een verificatie dat de container gereed is om een query op basis van het model te accepteren. Deze aanvraag kan worden gebruikt voor Kubernetes-activiteits- en gereedheidstests.
http://localhost:5000/status	Deze URL wordt ook aangevraagd met GET en controleert of de API-sleutel die wordt gebruikt om de container te starten, geldig is zonder dat er een eindpuntquery wordt veroorzaakt. Deze aanvraag kan worden gebruikt voor Kubernetes-activiteits- en gereedheidstests.
http://localhost:5000/swagger	De container bevat een volledige set met documentatie voor de eindpunten en een functie Uitproberen. Met deze functie kunt u uw instellingen invoeren in een html-formulier op het web en de query maken zonder dat u code hoeft te schrijven. Nadat de query is geretourneerd, wordt een voorbeeld van een CURL-opdracht gegeven om de vereiste HTTP-headers en hoofdtekstindeling te demonstreren.

Notitie

Als u de Text Analytics voor de statuscontainer uitvoert, gebruikt u de volgende URL om query's in te dienen:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health