Distribuire ed eseguire un contenitore in Istanze di Azure Container

Con la procedura seguente, ridimensionare facilmente le applicazioni dei servizi di intelligenza artificiale di Azure nel cloud con Azure Istanze di Container. La containerizzazione consente di concentrarsi sulla creazione di applicazioni anziché sulla gestione dell'infrastruttura. Per altre informazioni sull'uso dei contenitori, vedere funzionalità e vantaggi.

Prerequisiti

La ricetta funziona con qualsiasi contenitore di servizi di intelligenza artificiale di Azure. La risorsa dei servizi di intelligenza artificiale di Azure deve essere creata prima di usare la ricetta. Ogni servizio di intelligenza artificiale di Azure che supporta i contenitori include un articolo "Come installare" per l'installazione e la configurazione del servizio per un contenitore. Alcuni servizi richiedono un file o un set di file come input per il contenitore, è importante comprendere e usare correttamente il contenitore prima di usare questa soluzione.

• Risorsa di Azure per il servizio azure per l'intelligenza artificiale di Azure usata.

• URL dell'endpoint delle risorse del servizio intelligenza artificiale di Azure: esaminare l'URL "Come installare" del servizio specifico per il contenitore, per trovare dove si trova l'URL dell'endpoint dall'interno dell'portale di Azure e come è simile un esempio corretto dell'URL. Il formato esatto può cambiare dal servizio al servizio.

• Chiave della risorsa del servizio intelligenza artificiale di Azure: le chiavi si trovano nella pagina Chiavi per la risorsa di Azure. È necessaria solo una delle due chiavi. La chiave è una stringa di 32 caratteri alfa-numerici.

• Un singolo contenitore di servizi di intelligenza artificiale di Azure nell'host locale (computer). Assicurarsi di poter:

  • Eseguire il pull verso il basso dell'immagine con un docker pull comando.
  • Eseguire correttamente il contenitore locale con tutte le impostazioni di configurazione necessarie con un docker run comando.
  • Chiamare l'endpoint del contenitore, ottenere una risposta di HTTP 2xx e una risposta JSON.

Tutte le variabili in parentesi angolari, <>, devono essere sostituite con i propri valori. Questa sostituzione include le parentesi angolari.

Importante

Il contenitore LUIS richiede un .gz file di modello pull in fase di esecuzione. Il contenitore deve essere in grado di accedere a questo file di modello tramite un montaggio del volume dall'istanza di contenitore. Per caricare un file di modello, seguire questa procedura:

1. Creare una condivisione file di Azure. Prendere nota del nome dell'account di archiviazione di Azure, della chiave e del nome della condivisione file perché saranno necessari in un secondo momento.
2. esportare il modello LUIS (app in pacchetto) dal portale LUIS.
3. Nella portale di Azure passare alla pagina Panoramica della risorsa dell'account di archiviazione e selezionare Condivisioni file.
4. Selezionare il nome della condivisione file creato di recente, quindi selezionare Carica. Caricare quindi l'app in pacchetto.

Azure portal

Creare una risorsa dell'istanza di Azure Container usando l'portale di Azure

1. Passare alla pagina Crea per Istanze di Container.

2. Nella scheda Nozioni di base immettere i dettagli seguenti:

   Impostazione	Valore
   Subscription	Selezionare la propria sottoscrizione.
   Resource group	Selezionare il gruppo di risorse disponibile o crearne uno nuovo, cognitive-servicesad esempio .
   Nome contenitore	Immettere un nome, ad cognitive-container-instanceesempio . Il nome deve essere in maiuscole minuscole.
   Posizione	Selezionare un'area per la distribuzione.
   Tipo di immagine	Se l'immagine del contenitore viene archiviata in un registro contenitori che non richiede credenziali, scegliere Public. Se l'accesso all'immagine del contenitore richiede credenziali, scegliere Private. Per informazioni dettagliate su se l'immagine del contenitore è o meno, PublicPrivate vedere repository e immagini del contenitore.
   Nome dell'immagine	Immettere il percorso del contenitore dei servizi di intelligenza artificiale di Azure. Il percorso è quello usato come argomento per il docker pull comando. Fare riferimento ai repository e alle immagini del contenitore per i nomi delle immagini disponibili e il relativo repository corrispondente. Il nome dell'immagine deve essere completo specificando tre parti. Prima di tutto, il Registro contenitori, quindi il repository, infine il nome dell'immagine: <container-registry>/<repository>/<image-name>. Ecco un esempio, mcr.microsoft.com/azure-cognitive-services/keyphrase rappresenta l'immagine Estrazione frasi chiave nel Registro Contenitori Microsoft nel repository dei servizi di intelligenza artificiale di Azure. Un altro esempio è che containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text rappresenta l'immagine Voce al testo nel repository Microsoft del Registro contenitori di anteprima contenitori.
   Tipo di sistema operativo	Linux
   Dimensione	Modificare le dimensioni delle raccomandazioni suggerite per il contenitore di Intelligenza artificiale di Azure specifico: 2 core CPU 4 GB

3. Nella scheda Rete immettere i dettagli seguenti:

   Impostazione	Valore
   Porte	Impostare la porta TCP su 5000. Espone il contenitore sulla porta 5000.

4. Nella scheda Avanzate immettere le variabili di ambiente necessarie per le impostazioni di fatturazione del contenitore della risorsa Istanza di Azure Container:

   Chiave	Valore
   ApiKey	Copiato dalla pagina Chiavi ed endpoint della risorsa. È una stringa di caratteri alfanumerici 32 senza spazi o trattini, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	URL dell'endpoint copiato dalla pagina Chiavi ed endpoint della risorsa.
   Eula	accept

5. Selezionare Rivedi e Crea

6. Dopo aver superato la convalida, fare clic su Crea per completare il processo di creazione

7. Quando la risorsa viene distribuita correttamente, è pronta

CLI

Creare una risorsa dell'istanza di Azure Container dall'interfaccia della riga di comando di Azure

YaML seguente definisce la risorsa Istanza di Azure Container. Copiare e incollare il contenuto in un nuovo file, denominato my-aci.yaml e sostituire i valori commentati con i propri. Fare riferimento al formato modello per YAML valido. Fare riferimento ai repository e alle immagini del contenitore per i nomi delle immagini disponibili e il relativo repository corrispondente. Per altre informazioni sul riferimento YAML per le istanze del contenitore, vedere informazioni di riferimento su YAML: Istanze di Azure Container.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Nota

Non tutte le posizioni hanno la stessa disponibilità della CPU e della memoria. Fare riferimento alla tabella località e risorse per l'elenco delle risorse disponibili per i contenitori per posizione e sistema operativo.

Si userà il file YAML creato per il az container create comando. Dall'interfaccia della riga di comando di Azure eseguire il comando sostituendolo az container create<resource-group> con il proprio. Inoltre, per proteggere i valori all'interno di una distribuzione YAML, fare riferimento ai valori sicuri.

az container create -g <resource-group> -f my-aci.yaml

L'output del comando è Running... se valido, dopo qualche tempo l'output viene modificato in una stringa JSON che rappresenta la risorsa ACI appena creata. L'immagine del contenitore è più probabile che non sia disponibile per un periodo di tempo, ma la risorsa è ora distribuita.

Suggerimento

Prestare attenzione alle posizioni dei servizi di intelligenza artificiale di Azure in anteprima pubblica, poiché yaML deve essere modificato di conseguenza per corrispondere alla posizione.

Usare l'istanza del contenitore

Azure portal

1. Selezionare Panoramica e copiare l'indirizzo IP. Sarà un indirizzo IP numerico, 55.55.55.55ad esempio .

2. Aprire una nuova scheda del browser e usare l'indirizzo IP, ad esempio http://<IP-address>:5000 (http://55.55.55.55:5000. Verrà visualizzata la home page del contenitore, che informa che il contenitore è in esecuzione.

   

3. Selezionare Descrizione API servizio per visualizzare la pagina swagger per il contenitore.

4. Selezionare una delle API POST e selezionare Prova. I parametri vengono visualizzati, inclusi l'input. Specificare i parametri.

5. Selezionare Esegui per inviare la richiesta all'istanza del contenitore.

   È stato creato e usato i contenitori di Azure AI nell'istanza di Azure Container.

CLI

Verificare che il contenitore sia in esecuzione

Per verificare se il contenitore è in esecuzione, sono disponibili diverse opzioni. Individuare l'indirizzo IP esterno e la porta esposta del contenitore in questione e aprire il Web browser preferito. Usare i vari URL di richiesta che seguono per verificare che il contenitore sia in esecuzione. Gli URL della richiesta di esempio elencati di seguito sono http://localhost:5000, ma il contenitore specifico potrebbe variare. Assicurarsi di basarsi sull'indirizzo IP esterno del contenitore e sulla porta esposta.

URL della richiesta	Scopo
http://localhost:5000/	Il contenitore fornisce un home page.
http://localhost:5000/ready	Richiesto con GET, questo URL fornisce una verifica che il contenitore sia pronto per accettare una query sul modello. Questa richiesta può essere usata per i probe di attività e di idoneità di Kubernetes.
http://localhost:5000/status	Richiesto anche con GET, questo URL verifica se la chiave API usata per avviare il contenitore è valida senza causare una query dell'endpoint. Questa richiesta può essere usata per i probe di attività e di idoneità di Kubernetes.
http://localhost:5000/swagger	Il contenitore fornisce un set completo di documentazione per gli endpoint e una funzionalità Prova. Con questa funzionalità, è possibile immettere le impostazioni in un modulo HTML basato sul Web ed eseguire la query senza scrivere codice. Dopo che la query restituisce il risultato, viene fornito un comando CURL di esempio per illustrare il formato richiesto per il corpo e le intestazioni HTTP.

Nota

Se si esegue il Analisi del testo per il contenitore di integrità, usare l'URL seguente per inviare query:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health