Skema YAML titik akhir online CLI (v2)
BERLAKU UNTUK:
ekstensi ml Azure CLI v2 (saat ini)
Skema JSON sumber dapat ditemukan di https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json untuk titik akhir online terkelola, dan untuk https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json titik akhir online Kubernetes. Perbedaan antara titik akhir online terkelola dan titik akhir online Kubernetes dijelaskan dalam tabel properti dalam artikel ini. Sampel dalam artikel ini berfokus pada titik akhir online terkelola.
Catatan
Sintaks YAML yang dirinci dalam dokumen ini didasarkan pada skema JSON untuk versi terbaru ekstensi CLI v2 ML. Sintaks ini dijamin hanya berfungsi dengan versi terbaru ekstensi CLI v2 ML. Anda dapat menemukan skema untuk versi ekstensi yang lebih lama di https://azuremlschemasprod.azureedge.net/.
Catatan
Contoh YAML yang ditentukan sepenuhnya untuk titik akhir online terkelola tersedia sebagai referensi
Sintaks YAML
| Kunci | Tipe | Deskripsi | Nilai yang diizinkan | Nilai default |
|---|---|---|---|---|
$schema |
string | Skema YAML. Jika Anda menggunakan ekstensi Visual Studio Code Azure Machine Learning untuk menulis file YAML, termasuk $schema di bagian atas file, Anda akan dapat meminta skema dan penyelesaian sumber daya. |
||
name |
string | Harus diisi. Nama titik akhir. Harus unik di tingkat wilayah Azure. Aturan penamaan ditentukan di bawah batas titik akhir. |
||
description |
string | Deskripsi titik akhir. | ||
tags |
object | Kamus tag untuk titik akhir. | ||
auth_mode |
string | Metode autentikasi untuk memanggil titik akhir (operasi sarana data). Gunakan key untuk autentikasi berbasis kunci. Gunakan aml_token untuk autentikasi berbasis token Azure Machine Learning. Gunakan aad_token untuk autentikasi berbasis token Microsoft Entra (pratinjau). |
key, , aml_tokenaad_token |
key |
compute |
string | Nama target komputasi untuk menjalankan penyebaran titik akhir. Bidang ini hanya berlaku untuk penyebaran titik akhir ke kluster Kubernetes yang didukung Azure Arc (target komputasi yang ditentukan dalam bidang ini harus memiliki type: kubernetes). Jangan tentukan bidang ini jika Anda melakukan inferensi online terkelola. |
||
identity |
object | Konfigurasi identitas terkelola untuk mengakses sumber daya Azure untuk penyediaan titik akhir dan inferensi. | ||
identity.type |
string | Jenis identitas terkelola. Jika jenisnya adalah user_assigned, properti identity.user_assigned_identities harus ditentukan. |
system_assigned, user_assigned |
|
identity.user_assigned_identities |
array | Daftar ID sumber daya yang berkualifikasi penuh dari identitas yang ditetapkan pengguna. | ||
traffic |
object | Lalu lintas menunjukkan persentase permintaan yang akan dilayani oleh penyebaran yang berbeda. Lalu lintas ditunjukkan oleh kamus pasangan kunci-nilai, dengan kunci menunjukkan nama penyebaran dan nilai menunjukkan persentase lalu lintas ke penyebaran tersebut. Misalnya, blue: 90 green: 10 berarti 90% permintaan dikirim ke penyebaran bernama blue dan 10% dikirim ke penyebaran green. Total lalu lintas harus 0 atau berjumlah 100. Lihat Peluncuran aman untuk titik akhir online guna melihat konfigurasi lalu lintas yang berjalan. Catatan: Anda tidak dapat mengatur bidang ini selama pembuatan titik akhir online, karena penyebaran di bawah titik akhir tersebut harus dibuat sebelum lalu lintas dapat diatur. Anda dapat memperbarui lalu lintas untuk titik akhir online setelah penyebaran dibuat menggunakan az ml online-endpoint update; misalnya az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10". |
||
public_network_access |
string | Bendera ini mengontrol visibilitas titik akhir terkelola. Saat disabled, permintaan penilaian masuk diterima menggunakan titik akhir privat dari ruang kerja Azure Machine Learning dan titik akhir tidak dapat dijangkau dari jaringan publik. Bendera ini hanya berlaku untuk titik akhir terkelola |
enabled, disabled |
enabled |
mirror_traffic |
string | Persentase lalu lintas langsung untuk dicerminkan ke penyebaran. Mencerminkan lalu lintas tidak mengubah hasil yang dikembalikan ke klien. Persentase lalu lintas yang dicerminkan disalin dan dikirimkan ke penyebaran yang ditentukan sehingga Anda dapat mengumpulkan metrik dan pengelogan tanpa memengaruhi klien. Misalnya, untuk memeriksa apakah latensi berada dalam batas yang dapat diterima dan tidak ada kesalahan HTTP. Ini diwakili oleh kamus dengan pasangan kunci-nilai tunggal, di mana kunci mewakili nama penyebaran dan nilai mewakili persentase lalu lintas untuk dicerminkan ke penyebaran. Untuk informasi selengkapnya, lihat Menguji penyebaran dengan lalu lintas yang dicerminkan. |
Keterangan
Perintah az ml online-endpoint dapat digunakan untuk mengelola titik akhir online Azure Machine Learning.
Contoh
Contoh tersedia di contoh repositori GitHub. Beberapa ditunjukkan di bawah ini.
YAML: dasar
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key
YAML: identitas yang ditetapkan sistem
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key
YAML: identitas yang ditetapkan pengguna
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
type: user_assigned
user_assigned_identities:
- resource_id: user_identity_ARM_id_place_holder