Terapkan dan jalankan kontainer pada Azure Container Instance

Dengan langkah-langkah berikut, skalakan aplikasi layanan Azure AI di cloud dengan mudah menggunakan Azure Container Instances. Kontainerisasi membantu Anda fokus membangun aplikasi alih-alih mengelola infrastruktur. Untuk informasi selengkapnya tentang menggunakan kontainer, lihat fitur dan manfaat.

Prasyarat

Resep ini berfungsi dengan kontainer layanan Azure AI apa pun. Sumber daya layanan Azure AI harus dibuat sebelum menggunakan resep. Setiap layanan Azure AI yang mendukung kontainer memiliki artikel "Cara menginstal" untuk menginstal dan mengonfigurasi layanan untuk kontainer. Beberapa layanan memerlukan file atau sekumpulan file sebagai input untuk kontainer, penting bagi Anda untuk memahami dan telah menggunakan kontainer dengan sukses sebelum menggunakan solusi ini.

• Sumber daya Azure untuk layanan Azure AI yang Anda gunakan.

• URL titik akhir sumber daya layanan Azure AI - tinjau "Cara menginstal" layanan spesifik Anda untuk kontainer, untuk menemukan dari mana URL titik akhir berada dalam portal Azure, dan seperti apa contoh URL yang benar. Format yang tepat dapat berubah dari layanan ke layanan.

• Kunci sumber daya layanan Azure AI - kuncinya ada di halaman Kunci untuk sumber daya Azure. Anda hanya perlu salah satu dari dua kunci. Kuncinya adalah untai 32 karakter alfa-numerik.

• Satu kontainer layanan Azure AI di host lokal Anda (komputer Anda). Pastikan Anda bisa:

  • Menarik gambar ke bawah dengan perintah docker pull.
  • Menjalankan kontainer lokal dengan sukses dengan semua pengaturan konfigurasi yang diperlukan dengan perintah docker run.
  • Panggil titik akhir kontainer, dapatkan respons HTTP 2xx dan respons JSON kembali.

Semua variabel dalam kurung sudut, <>, perlu diganti dengan nilai Anda sendiri. Penggantian ini termasuk kurung sudut.

Penting

Kontainer LUIS memerlukan file model .gz yang ditarik saat runtime. Kontainer harus dapat mengakses file model ini melalui pemasangan volume dari instans kontainer. Untuk mengunggah file model, ikuti langkah-langkah berikut:

1. Membuat berbagi file Azure. Catat nama akun Azure Storage, kunci, dan nama berbagi file karena Anda akan membutuhkannya nanti.
2. ekspor model LUIS Anda (aplikasi paket) dari portal LUIS.
3. Di portal Azure, navigasikan ke halaman Ringkasan sumber daya akun penyimpanan Anda, dan pilih Berbagi file.
4. Pilih nama berbagi file yang baru saja Anda buat, lalu pilih Unggah. Lalu unggah aplikasi paket Anda.

Portal Microsoft Azure

Buat sumber daya Azure Container Instance menggunakan portal Microsoft Azure

1. Buka halaman Buat untuk Azure Container Instances.

2. Masukkan detail berikut di tab Dasar:

   Pengaturan	Nilai
   Langganan	Pilih langganan Anda.
   Grup sumber daya	Pilih grup sumber daya yang tersedia atau buat yang baru seperti cognitive-services.
   Nama kontainer	Masukkan nama seperti cognitive-container-instance. Nama harus dalam huruf kecil.
   Lokasi	Pilih wilayah penyebaran.
   Jenis gambar	Jika gambar kontainer Anda disimpan dalam registri kontainer yang tidak memerlukan informasi masuk, pilih Public. Jika mengakses gambar kontainer Anda memerlukan informasi masuk, pilih Private. Lihat repositori kontainer dan gambar untuk detail tentang apakah gambar kontainer Public atau Private ("Pratinjau Publik").
   Nama gambar	Masukkan lokasi kontainer layanan Azure AI. Lokasi adalah apa yang digunakan sebagai argumen untuk docker pull perintah. Lihat repositori dan gambar kontainer untuk nama gambar yang tersedia dan repositori yang sesuai. Nama gambar harus sepenuhnya memenuhi syarat menentukan tiga bagian. Pertama, registri kontainer, kemudian repositori, akhirnya nama gambar: <container-registry>/<repository>/<image-name>. Berikut adalah contohnya, mcr.microsoft.com/azure-cognitive-services/keyphrase akan mewakili gambar Ekstraksi Frasa Kunci di Microsoft Container Registry di bawah repositori layanan Azure AI. Contoh lain adalah, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text yang akan mewakili gambar Ucapan ke teks di repositori Microsoft dari registri kontainer Pratinjau Kontainer.
   Jenis OS	Linux
   Ukuran	Ubah ukuran ke rekomendasi yang disarankan untuk kontainer Azure AI spesifik Anda: 2 Core CPU 4 GB

3. Di tab Jaringan, masukkan rincian berikut ini:

   Pengaturan	Nilai
   Port	Atur port TCP ke 5000. Mengekspos kontainer pada port 5000.

4. Pada tab Tingkat Lanjut, masukkan Variabel Lingkungan yang diperlukan untuk pengaturan penagihan kontainer sumber daya Instans Kontainer Azure:

   Kunci	Nilai
   ApiKey	Disalin dari halaman Kunci dan titik akhir sumber daya. Ini adalah string karakter alfanumerik 32 karakter tanpa spasi atau garis putus-putus, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	URL endpoint Anda disalin dari halaman Kunci dan titik akhir sumber daya.
   Eula	accept

5. Pilih Tinjau dan Buat

6. Setelah validasi berlalu, klik Buat untuk menyelesaikan proses pembuatan

7. Ketika sumber daya berhasil disebarkan, sumber daya siap

CLI

Membuat sumber daya instans Azure Container dari Azure CLI

YAML di bawah ini menetapkan sumber daya Azure Container Instance. Salin dan tempel konten ke dalam file baru, bernama my-aci.yaml dan ganti nilai yang dikomentari dengan nilai Anda sendiri. Lihat format templat untuk YAML yang valid. Lihat repositori dan gambar kontainer untuk nama gambar yang tersedia dan repositori yang sesuai. Untuk informasi selengkapnya tentang referensi YAML untuk instans Kontainer, lihat Referensi YAML: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Catatan

Tidak semua lokasi memiliki ketersediaan CPU dan Memori yang sama. Lihat tabel lokasi dan sumber daya untuk daftar sumber daya yang tersedia untuk kontainer per lokasi dan OS.

Kita akan mengandalkan file YAML yang kita buat untuk perintah az container create. Dari Azure CLI, jalankan perintah az container create yang mengganti <resource-group> dengan milik Anda sendiri. Selain itu, untuk mengamankan nilai dalam penyebaran YAML, lihat nilai aman.

az container create -g <resource-group> -f my-aci.yaml

Output dari perintah ini adalah Running... jika valid, setelah beberapa saat output berubah menjadi string JSON yang mewakili sumber daya ACI yang baru dibuat. Gambar kontainer kemungkinan besar tidak tersedia untuk sementara waktu, tetapi sumber daya sekarang disebarkan.

Tip

Perhatikan dengan cermat lokasi layanan Azure AI dalam pratinjau publik, karena YAML perlu disesuaikan agar sesuai dengan lokasi.

Menggunakan Instans Kontainer

Portal Microsoft Azure

1. Pilih Ringkasan dan salin alamat IP. Ini akan menjadi alamat IP numerik seperti 55.55.55.55.

2. Buka tab browser baru dan gunakan alamat IP, misalnya, http://<IP-address>:5000 (http://55.55.55.55:5000). Anda akan melihat halaman beranda kontainer, yang memberi tahu Anda bahwa kontainer sedang berjalan.

   

3. Pilih Deskripsi API Layanan untuk melihat halaman swagger untuk kontainer.

4. Pilih salah satu dari POST API dan pilih Cobalah. Parameter ditampilkan termasuk input. Isi parameternya.

5. Pilih Eksekusi untuk mengirim permintaan ke Instans Kontainer Anda.

   Anda telah berhasil membuat dan menggunakan kontainer Azure AI di Azure Container Instance.

CLI

Memvalidasi bahwa kontainer sedang berjalan

Ada beberapa cara untuk memvalidasi bahwa kontainer sedang berjalan. Temukan alamat IP Eksternal dan port kontainer yang diekspos yang dimaksud, dan buka browser web favorit Anda. Gunakan berbagai URL permintaan yang mengikuti untuk memvalidasi bahwa kontainer sedang berjalan. Contoh URL permintaan yang tercantum di sini adalah http://localhost:5000, tetapi kontainer tertentu Anda mungkin bervariasi. Pastikan Anda mengandalkan port yang terekspos dan alamat IP Eksternal kontainer Anda.

URL Permintaan	Tujuan
http://localhost:5000/	Kontainer menyediakan halaman beranda.
http://localhost:5000/ready	Diminta dengan GET, URL ini memberikan verifikasi bahwa kontainer siap menerima kueri terhadap model. Permintaan ini dapat digunakan untuk penyelidikan keaktifan dan kesiapan Kubernetes.
http://localhost:5000/status	Juga diminta dengan GET, ini memverifikasi apakah kunci-api yang digunakan untuk memulai kontainer yang valid tanpa menyebabkan kueri titik akhir. Permintaan ini dapat digunakan untuk penyelidikan keaktifan dan kesiapan Kubernetes.
http://localhost:5000/swagger	Kontainer menyediakan set dokumentasi lengkap untuk titik akhir dan fitur Cobalah. Dengan fitur ini, Anda dapat memasukkan pengaturan Anda ke dalam formulir HTML berbasis web dan membuat kueri tanpa harus menulis kode apa pun. Setelah kueri kembali, contoh perintah CURL disediakan untuk mendemonstrasikan header HTTP dan format isi yang diperlukan.

Catatan

Jika Anda menjalankan Text Analytics untuk penampiap kesehatan, gunakan URL berikut untuk mengirimkan kueri: http://localhost:5000/text/analytics/v3.2-preview.1/entities/health