Wdrażanie i uruchamianie kontenera w wystąpieniu kontenera platformy Azure

Poniższe kroki umożliwiają łatwe skalowanie aplikacji usług AI platformy Azure w chmurze za pomocą usługi Azure Container Instances. Konteneryzacja pomaga skoncentrować się na tworzeniu aplikacji, zamiast na zarządzaniu infrastrukturą. Aby uzyskać więcej informacji na temat korzystania z kontenerów, zobacz funkcje i korzyści.

Wymagania wstępne

Przepis działa z dowolnym kontenerem usług Azure AI. Przed użyciem przepisu należy utworzyć zasób usług AI platformy Azure. Każda usługa Azure AI, która obsługuje kontenery, zawiera artykuł "How to install" (Jak zainstalować) na potrzeby instalowania i konfigurowania usługi dla kontenera. Niektóre usługi wymagają pliku lub zestawu plików jako danych wejściowych dla kontenera, ważne jest, aby zrozumieć i pomyślnie użyć kontenera przed użyciem tego rozwiązania.

• Zasób platformy Azure dla używanej usługi Azure AI.

• Adres URL punktu końcowego zasobu usługi Azure AI — przejrzyj adres URL punktu końcowego usługi "Jak zainstalować" dla kontenera, aby dowiedzieć się, gdzie znajduje się adres URL punktu końcowego w Azure Portal i jak wygląda poprawny przykład adresu URL. Dokładny format może ulec zmianie z usługi na usługę.

• Klucz zasobu usługi Azure AI — klucze znajdują się na stronie Klucze zasobu platformy Azure. Potrzebujesz tylko jednego z dwóch kluczy. Klucz jest ciągiem 32 znaków alfanumerycznych.

• Pojedynczy kontener usług Azure AI na hoście lokalnym (komputerze). Upewnij się, że możesz:

  • Przeciągnij obraz za docker pull pomocą polecenia .
  • Uruchom kontener lokalny pomyślnie z wszystkimi wymaganymi ustawieniami konfiguracji za pomocą docker run polecenia .
  • Wywołaj punkt końcowy kontenera, uzyskując odpowiedź HTTP 2xx i odpowiedź JSON z powrotem.

Wszystkie zmienne w nawiasach kątowych , <>należy zastąpić własnymi wartościami. To zastąpienie obejmuje nawiasy kątowe.

Ważne

Kontener usługi LUIS wymaga .gz pliku modelu, który jest ściągany w czasie wykonywania. Kontener musi mieć dostęp do tego pliku modelu za pośrednictwem instalacji woluminu z wystąpienia kontenera. Aby przekazać plik modelu, wykonaj następujące kroki:

1. Utwórz udział plików platformy Azure. Zanotuj nazwę konta, klucz i nazwę udziału plików usługi Azure Storage, ponieważ będą one potrzebne później.
2. wyeksportuj model usługi LUIS (spakowanej aplikacji) z portalu usługi LUIS.
3. W Azure Portal przejdź do strony Przegląd zasobu konta magazynu i wybierz pozycję Udziały plików.
4. Wybierz nazwę ostatnio utworzonego udziału plików, a następnie wybierz pozycję Przekaż. Następnie przekaż spakowana aplikację.

Witryna Azure Portal

Tworzenie zasobu usługi Azure Container Instance przy użyciu Azure Portal

1. Przejdź do strony Tworzenie dla Container Instances.

2. Na karcie Podstawy wprowadź następujące szczegóły:

   Ustawienie	Wartość
   Subskrypcja	Wybierz subskrypcję.
   Grupa zasobów	Wybierz dostępną grupę zasobów lub utwórz nową, taką jak cognitive-services.
   Nazwa kontenera	Wprowadź nazwę, taką jak cognitive-container-instance. Nazwa musi być w niższych limitach.
   Lokalizacja	Wybierz region do wdrożenia.
   Typ obrazu	Jeśli obraz kontenera jest przechowywany w rejestrze kontenerów, który nie wymaga poświadczeń, wybierz pozycję Public. Jeśli uzyskiwanie dostępu do obrazu kontenera wymaga poświadczeń, wybierz pozycję Private. Zapoznaj się z repozytoriami kontenerów i obrazami , aby uzyskać szczegółowe informacje na temat tego, czy obraz kontenera jest Public czy Private też ("publiczna wersja zapoznawcza").
   Nazwa obrazu	Wprowadź lokalizację kontenera usług Azure AI. Lokalizacja jest używana jako argument polecenia docker pull . Zapoznaj się z repozytoriami kontenerów i obrazami , aby uzyskać dostępne nazwy obrazów i odpowiednie repozytorium. Nazwa obrazu musi być w pełni kwalifikowana, określając trzy części. Najpierw rejestr kontenerów, a następnie repozytorium, na koniec nazwę obrazu: <container-registry>/<repository>/<image-name>. Oto przykład przedstawiający mcr.microsoft.com/azure-cognitive-services/keyphrase obraz wyodrębniania fraz kluczowych w usłudze Microsoft Container Registry w repozytorium usług Azure AI. Innym przykładem jest containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text reprezentacja obrazu zamiany mowy na tekst w repozytorium Microsoft rejestru kontenerów w wersji zapoznawczej kontenera.
   Typ systemu operacyjnego	Linux
   Rozmiar	Zmień rozmiar na sugerowane zalecenia dotyczące określonego kontenera sztucznej inteligencji platformy Azure: 2 rdzenie procesora CPU 4 GB

3. Na karcie Sieć wprowadź następujące szczegóły:

   Ustawienie	Wartość
   Porty	Ustaw port TCP na 5000. Uwidacznia kontener na porcie 5000.

4. Na karcie Zaawansowane wprowadź wymagane zmienne środowiskowe dla ustawień rozliczeń kontenera zasobu usługi Azure Container Instance:

   Klucz	Wartość
   ApiKey	Skopiowane ze strony Klucze i punkt końcowy zasobu. Jest to ciąg 32 znaków alfanumerycznych bez spacji ani kreski, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Adres URL punktu końcowego skopiowany ze strony Klucze i punkt końcowy zasobu.
   Eula	accept

5. Wybierz pozycję Przejrzyj i utwórz

6. Po zakończeniu weryfikacji kliknij przycisk Utwórz , aby zakończyć proces tworzenia

7. Gdy zasób zostanie pomyślnie wdrożony, będzie gotowy

Interfejs wiersza polecenia

Tworzenie zasobu wystąpienia kontenera platformy Azure na podstawie interfejsu wiersza polecenia platformy Azure

Poniższy kod YAML definiuje zasób usługi Azure Container Instance. Skopiuj i wklej zawartość do nowego pliku o nazwie my-aci.yaml i zastąp wartości z komentarzami własnymi. Zapoznaj się z formatem szablonu , aby uzyskać prawidłowy kod YAML. Zapoznaj się z repozytoriami kontenerów i obrazami , aby uzyskać dostępne nazwy obrazów i odpowiednie repozytorium. Aby uzyskać więcej informacji na temat dokumentacji YAML dla wystąpień kontenera, zobacz dokumentacja YAML: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Uwaga

Nie wszystkie lokalizacje mają taką samą dostępność procesora CPU i pamięci. Zapoznaj się z tabelą lokalizacji i zasobów , aby zapoznać się z listą dostępnych zasobów dla kontenerów na lokalizację i system operacyjny.

Będziemy polegać na pliku YAML utworzonym az container create dla polecenia . W interfejsie wiersza polecenia platformy Azure wykonaj az container create polecenie zastępując <resource-group> je własnym. Ponadto w przypadku zabezpieczania wartości we wdrożeniu YAML zapoznaj się z bezpiecznymi wartościami.

az container create -g <resource-group> -f my-aci.yaml

Dane wyjściowe polecenia są Running... prawidłowe, po pewnym czasie dane wyjściowe zmieni się na ciąg JSON reprezentujący nowo utworzony zasób ACI. Obraz kontenera jest na chwilę niedostępny, ale zasób jest teraz wdrażany.

Porada

Zwróć szczególną uwagę na lokalizacje usług Azure AI w publicznej wersji zapoznawczej, ponieważ kod YAML będzie musiał zostać odpowiednio dostosowany do lokalizacji.

Korzystanie z wystąpienia kontenera

Witryna Azure Portal

1. Wybierz pozycję Przegląd i skopiuj adres IP. Będzie to numeryczny adres IP, taki jak 55.55.55.55.

2. Otwórz nową kartę przeglądarki i użyj adresu IP, na przykład http://<IP-address>:5000 (http://55.55.55.55:5000). Zostanie wyświetlona strona główna kontenera z informacją o uruchomieniu kontenera.

   

3. Wybierz pozycję Opis interfejsu API usługi , aby wyświetlić stronę struktury Swagger dla kontenera.

4. Wybierz dowolny z interfejsów API POST i wybierz pozycję Wypróbuj. Parametry są wyświetlane wraz z danymi wejściowymi. Wypełnij parametry.

5. Wybierz pozycję Wykonaj , aby wysłać żądanie do wystąpienia kontenera.

   Pomyślnie utworzono i użyto kontenerów usługi Azure AI w usłudze Azure Container Instance.

Interfejs wiersza polecenia

Sprawdzanie, czy kontener jest uruchomiony

Istnieje kilka sposobów sprawdzania, czy kontener jest uruchomiony. Znajdź zewnętrzny adres IP i uwidoczniony port kontenera, a następnie otwórz ulubioną przeglądarkę internetową. Użyj różnych adresów URL żądań, które następują, aby sprawdzić, czy kontener jest uruchomiony. Przykładowe adresy URL żądania wymienione w tym miejscu to http://localhost:5000, ale określony kontener może się różnić. Pamiętaj, aby polegać na zewnętrznym adresie IP kontenera i uwidocznić port.

Adres URL żądania	Przeznaczenie
http://localhost:5000/	Kontener zawiera stronę główną.
http://localhost:5000/ready	Żądany przy użyciu polecenia GET ten adres URL zapewnia weryfikację, że kontener jest gotowy do akceptowania zapytania względem modelu. To żądanie może służyć do sond na żywo i gotowości platformy Kubernetes.
http://localhost:5000/status	Ponadto żądany przy użyciu polecenia GET ten adres URL sprawdza, czy klucz api-key używany do uruchamiania kontenera jest prawidłowy bez powodowania zapytania punktu końcowego. To żądanie może służyć do sond na żywo i gotowości platformy Kubernetes.
http://localhost:5000/swagger	Kontener zawiera pełen zestaw dokumentacji dla punktów końcowych oraz funkcję Wypróbuj. Dzięki tej funkcji możesz wprowadzić ustawienia w formularzu HTML opartym na internecie i utworzyć zapytanie bez konieczności pisania kodu. Po powrocie zapytania zostanie udostępnione przykładowe polecenie CURL, aby zademonstrować wymagane nagłówki HTTP i format treści.

Uwaga

Jeśli używasz analiza tekstu dla kontenera kondycji, użyj następującego adresu URL do przesyłania zapytań:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health