Apa itu kontainer Azure AI?
Layanan Azure AI menyediakan beberapa kontainer Docker yang memungkinkan Anda menggunakan API yang sama yang tersedia di Azure, lokal. Menggunakan kontainer ini memberi Anda fleksibilitas untuk mendekatkan layanan Azure AI ke data Anda untuk kepatuhan, keamanan, atau alasan operasional lainnya. Dukungan kontainer saat ini tersedia untuk subset layanan Azure AI.
Kontainerisasi adalah pendekatan untuk distribusi perangkat lunak di mana aplikasi atau layanan, termasuk dependensi & konfigurasinya, dikemas bersama-sama sebagai gambar kontainer. Dengan sedikit atau tanpa modifikasi, gambar kontainer dapat disebarkan di host kontainer. Kontainer dipisahkan satu sama lain dan sistem operasi yang mendasarinya, dengan jejak yang lebih kecil daripada komputer virtual. Kontainer dapat diinisiasi dari gambar kontainer untuk tugas jangka pendek, dan dihapus jika tidak diperlukan lagi.
Fitur dan manfaat
- Infrastruktur yang tidak dapat diubah: Memungkinkan tim DevOps memanfaatkan serangkaian parameter sistem yang diketahui yang konsisten dan andal, sekaligus dapat beradaptasi dengan perubahan. Kontainer memberikan fleksibilitas untuk berputar dalam ekosistem yang dapat diprediksi dan menghindari penyimpangan konfigurasi.
- Kontrol atas data: Pilih tempat data Anda diproses oleh layanan Azure AI. Ini bisa penting jika Anda tidak dapat mengirim data ke cloud tetapi memerlukan akses ke API layanan Azure AI. Mendukung konsistensi dalam lingkungan yang hibrid – di seluruh data, pengelolaan, identitas, dan keamanan.
- Kontrol pembaruan model: Fleksibilitas dalam penerapan versi dan pembaruan model yang disebarkan dalam setiap solusi.
- Arsitektur portabel: Memungkinkan pembuatan arsitektur aplikasi portabel yang dapat disebarkan di Azure, lokal, dan tepi. Kontainer dapat disebarkan langsung ke Azure Kubernetes Service, Azure Container Instances, atau kluster Kube yang disebarkan ke Azure Stack. Untuk mengetahui informasi selengkapnya, lihat Menyebarkan Kube ke Azure Stack.
- Throughput tinggi/ latensi rendah: Memberi pelanggan kemampuan untuk menskalakan throughput tinggi dan persyaratan latensi rendah dengan memungkinkan layanan Azure AI berjalan secara fisik dekat dengan logika dan data aplikasi mereka. Kontainer tidak membatasi transaksi per detik (TPS) dan dapat dilakukan untuk meningkatkan dan memperluas skala guna menangani permintaan jika Anda menyediakan sumber daya perangkat keras yang diperlukan.
- Skalabilitas: Dengan semakin populernya kontainerisasi dan perangkat lunak orkestrasi kontainer, seperti Kube; skalabilitas menjadi sangat penting dalam kemajuan teknologi. Dengan membangun fondasi kluster yang dapat diskalakan, pengembangan aplikasi memenuhi ketersediaan tinggi.
Kontainer di layanan Azure AI
Kontainer Azure AI menyediakan serangkaian kontainer Docker berikut, yang masing-masing berisi subset fungsionalitas dari layanan di layanan Azure AI. Anda dapat menemukan petunjuk dan lokasi gambar dalam tabel di bawah.
Catatan
Lihat Menginstal dan menjalankan kontainer Kecerdasan Dokumen untuk instruksi kontainer dan lokasi gambar Azure AI Document Intelligence .
Kontainer keputusan
| Service | Kontainer | Deskripsi | Ketersediaan |
|---|---|---|---|
| Anomaly Detector | Anomaly Detector (gambar) | Anomaly Detector API memungkinkan Anda memantau dan mendeteksi kelainan dalam data deret waktu dengan pembelajaran mesin. | Tersedia secara umum |
Kontainer bahasa
| Service | Kontainer | Deskripsi | Ketersediaan |
|---|---|---|---|
| LUIS | LUIS (gambar) | Memuat model Pemahaman Bahasa yang terlatih atau diterbitkan, juga dikenal sebagai aplikasi LUIS, ke dalam kontainer docker dan memberikan akses ke prediksi kueri dari titik akhir API kontainer. Anda dapat mengumpulkan log kueri dari kontainer dan mengunggahnya kembali ke portal LUIS untuk meningkatkan akurasi prediksi aplikasi. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Layanan Bahasa | Ekstraksi Frasa Kunci (gambar) | Mengekstrak frasa kunci untuk mengidentifikasi poin utama. Misalnya, teks input "Makanannya enak dan staf-nya luar biasa", API menampilkan poin pembicaraan utama: "makanan" dan "staf-nya luar biasa". | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Layanan Bahasa | Deteksi Bahasa Teks (gambar) | Untuk maksimal 120 bahasa, mendeteksi bahasa tempat teks input ditulis dan melaporkan satu kode bahasa untuk setiap dokumen yang dikirimkan atas permintaan. Kode bahasa dipasangkan dengan skor yang menunjukkan kekuatan skor. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Layanan Bahasa | Analisis Sentimen (gambar) | Menganalisis teks mentah untuk petunjuk tentang sentimen positif atau negatif. Versi analisis sentimen ini menampilkan label sentimen (misalnya positif atau negatif)untuk setiap dokumen dan kalimat yang ada di dalamnya. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Layanan Bahasa | Analitik Teks untuk kesehatan (gambar) | Ekstrak dan beri label informasi medis dari teks klinis yang tidak terstruktur. | Tersedia secara umum |
| Layanan Bahasa | Pengenalan Entitas Bernama (gambar) | Ekstrak entitas bernama dari teks. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Layanan Bahasa | Pengenalan Entitas Karakter Kustom (gambar) | Ekstrak entitas bernama dari teks, menggunakan model kustom yang Anda buat menggunakan data Anda. | Tersedia secara umum |
| Layanan Bahasa | Ringkasan (gambar) | Meringkas teks dari berbagai sumber. | Pratinjau publik. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Penerjemah | Penerjemah (gambar) | Terjemahkan teks dalam beberapa bahasa dan dialek. | Tersedia secara umum. Gated - meminta akses. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
Kontainer ucapan
| Service | Kontainer | Deskripsi | Ketersediaan |
|---|---|---|---|
| Speech Service API | Ucapan ke teks (gambar) | Mentranskrip ucapan real-time berkelanjutan ke dalam teks. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Speech Service API | Ucapan kustom ke teks (gambar) | Mentranskrip ucapan real-time berkelanjutan ke dalam teks menggunakan model kustom. | Tersedia secara umum Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Speech Service API | Teks Neural ke ucapan (gambar) | Mengonversi teks menjadi ucapan yang terdengar alami menggunakan teknologi jaringan saraf dalam, memungkinkan ucapan yang disintesis lebih alami. | Tersedia secara umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Speech Service API | Identifikasi bahasa ucapan (gambar) | Menentukan bahasa audio lisan. | Pratinjau |
Kontainer penglihatan
| Service | Kontainer | Deskripsi | Ketersediaan |
|---|---|---|---|
| Azure AI Vision | OCR Baca (gambar) | Kontainer OCR Baca memungkinkan Anda mengekstrak teks cetak dan tulisan tangan dari gambar dan dokumen dengan dukungan untuk format file JPEG, PNG, BMP, PDF, dan TIFF. Untuk informasi selengkapnya, lihat dokumentasi Read API. | Tersedia Secara Umum. Kontainer ini juga dapat berjalan di lingkungan yang terputus. |
| Analisis Spasial | Analisis Spasial (gambar) | Menganalisis video streaming real time untuk memahami hubungan spasial antara orang, pergerakan mereka, dan interaksi dengan objek di lingkungan fisik. | Pratinjau |
Selain itu, beberapa kontainer didukung dalam penawaran sumber daya multi-layanan layanan Azure AI. Anda dapat membuat satu sumber daya layanan Azure AI All-In-One tunggal dan menggunakan kunci penagihan yang sama di seluruh layanan yang didukung untuk layanan berikut:
- Azure AI Vision
- LUIS
- Layanan bahasa
Prasyarat
Anda harus memenuhi prasyarat berikut sebelum menggunakan kontainer Azure AI:
Docker Engine: Anda harus memiliki Docker Engine yang terpasang secara lokal. Docker dilengkapi dengan paket yang mengonfigurasi lingkungan Docker di macOS, Windows, dan Linux. Di Windows, Docker juga harus dikonfigurasi untuk mendukung kontainer Linux. Kontainer Docker juga dapat disebarkan langsung ke Azure Kubernetes Service atau Azure Container Instances.
Docker harus dikonfigurasi agar kontainer dapat terhubung dengan dan mengirim data tagihan ke Azure.
Pemahaman tentang Microsoft Container Registry and Docker: Anda harus memiliki pemahaman dasar tentang konsep Microsoft Container Registry dan Docker, seperti registri, repositori, kontainer, dan gambar kontainer, serta pengetahuan tentang perintah docker dasar.
Untuk primer tentang Docker dan dasar kontainer, lihat Gambaran umum Docker.
Masing-masing kontainer juga dapat memiliki persyaratan masing-masing, termasuk persyaratan alokasi server dan memori.
Keamanan kontainer layanan Azure AI
Keamanan harus menjadi fokus utama setiap kali Anda mengembangkan aplikasi. Pentingnya keamanan adalah metrik untuk keberhasilan. Saat Anda merancang solusi perangkat lunak yang menyertakan kontainer Azure AI, sangat penting untuk memahami batasan dan kemampuan yang tersedia untuk Anda. Untuk informasi selengkapnya tentang keamanan jaringan, lihat Mengonfigurasi jaringan virtual layanan Azure AI.
Penting
Secara default tidak ada keamanan pada API kontainer layanan Azure AI. Alasan untuk ini adalah bahwa paling sering kontainer akan berjalan sebagai bagian dari pod yang dilindungi dari luar oleh jembatan jaringan. Namun, dimungkinkan bagi pengguna untuk membangun infrastruktur autentikasi mereka sendiri untuk memperkirakan metode autentikasi yang digunakan saat mengakses layanan Azure AI berbasis cloud.
Diagram berikut mengilustrasikan pendekatan default dan tidak aman :
Sebagai contoh pendekatan alternatif dan aman , konsumen kontainer Azure AI dapat menambah kontainer dengan komponen yang menghadap ke depan, menjaga titik akhir kontainer tetap privat. Mari kita pertimbangkan skenario saat kita menggunakanIstio sebagai gateway. Istio mendukung HTTPS/TLS dan autentikasi sertifikat klien. Dalam skenario ini, frontend Istio memaparkan akses kontainer, menyajikan sertifikat klien yang disetujui sebelumnya dengan Istio.
Nginx adalah pilihan populer lainnya dalam kategori yang sama. Istio dan Nginx bertindak sebagai jala layanan dan menawarkan fitur tambahan termasuk hal-hal seperti penyeimbangan muatan, perutean, dan kontrol laju.
Jaringan kontainer
Kontainer Azure AI diperlukan untuk mengirimkan informasi pengukuran untuk tujuan penagihan. Kegagalan untuk mengizinkan daftar berbagai saluran jaringan yang diandalkan kontainer Azure AI akan mencegah kontainer berfungsi.
Daftar izin domain dan port layanan Azure AI
Host harus mengizinkan port daftar 443 dan domain berikut:
*.cognitive.microsoft.com*.cognitiveservices.azure.com
Menonaktifkan inspeksi paket mendalam
Inspeksi paket mendalam (DPI) adalah jenis pemrosesan data yang memeriksa secara rinci data yang dikirim melalui jaringan komputer, dan biasanya mengambil tindakan dengan memblokir, mengalihkan rute, atau mencatatnya.
Nonaktifkan DPI pada saluran aman yang dibuat kontainer Azure AI ke server Microsoft. Kegagalan untuk melakukannya akan mengakibatkan kontainer tidak berfungsi dengan benar.
Sampel pengembang
Sampel pengembang tersedia di repositori GitHub kami.
Langkah berikutnya
Pelajari tentang resep kontainer yang dapat Anda gunakan dengan layanan Azure AI.
Instal dan jelajahi fungsionalitas yang disediakan oleh kontainer di layanan Azure AI: