Terapkan model

Artikel
12/19/2023

Setelah Anda puas dengan performa model Anda, model siap untuk disebarkan dan meminta prediksi dari ucapan. Menyebarkan model membuatnya tersedia untuk digunakan melalui API prediksi.

Prasyarat

Sebuah proyek yang berhasil dibuat
Ungkapan berlabel dan berhasil model terlatih
Tinjau detail evaluasi model untuk menentukan performa model Anda.

Lihat siklus hidup pengembangan proyek untuk informasi selengkapnya.

Menyebarkan model

Setelah Anda meninjau performa model dan memutuskan demikian cocok untuk digunakan di lingkungan Anda; Anda harus menetapkannya ke penyebaran agar dapat mengkuerinya. Menetapkan model ke penyebaran membuatnya tersedia untuk digunakan melalui API prediksi. Disarankan untuk membuat penyebaran bernama production tempat Anda menetapkan model terbaik yang telah Anda bangun sejauh ini dan menggunakannya di sistem Anda. Anda dapat membuat penyebaran lain yang disebut staging yang dapat Anda tetapkan model yang saat ini sedang Anda kerjakan untuk dapat mengujinya. Anda dapat memiliki maksimum pada 10 penyebaran dalam proyek Anda.

Studio Bahasa
REST API

Untuk menyebarkan model Anda dari dalam Language Studio:

Pilih Menyebarkan model dari menu sebelah kiri.
Pilih Tambahkan penyebaran untuk memulai wizard Tambahkan penyebaran .
Pilih Buat nama penyebaran baru untuk membuat penyebaran baru dan tetapkan model terlatih dari menu dropdown di bawah ini. Anda dapat memilih Timpa nama penyebaran yang ada untuk mengganti model yang digunakan oleh penyebaran yang ada secara efektif.

Catatan

Menimpa penyebaran yang ada tidak memerlukan perubahan pada panggilan API Prediksi Anda tetapi hasil yang Anda dapatkan akan didasarkan pada model yang baru ditetapkan.
Pilih model terlatih dari dropdown Model .
Pilih Sebarkan untuk memulai pekerjaan penyebaran.
Setelah penyebaran berhasil, tanggal kedaluwarsa akan muncul di sampingnya. Kedaluwarsa penyebaran adalah ketika model yang Anda sebarkan tidak akan tersedia untuk digunakan untuk prediksi, yang biasanya terjadi dua belas bulan setelah konfigurasi pelatihan kedaluwarsa.

Mengirimkan pekerjaan penyebaran

Buat permintaan PUT menggunakan URL, header, dan isi JSON berikut untuk mulai menyebarkan model pemahaman bahasa percakapan.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{DEPLOYMENT-NAME}`	Nama penyebaran Anda. Nilai ini peka huruf besar/kecil.	`staging`
`{API-VERSION}`	Versi API yang Anda panggil.	`2023-04-01`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi Permintaan

{
  "trainedModelLabel": "{MODEL-NAME}",
}

Tombol	Placeholder	Nilai	Contoh
trainedModelLabel	`{MODEL-NAME}`	Nama model yang akan ditetapkan ke penyebaran Anda. Anda hanya dapat menetapkan model yang berhasil dilatih. Nilai ini peka huruf besar/kecil.	`myModel`

Setelah mengirim permintaan API, Anda akan menerima respons 202 yang menunjukkan keberhasilan. Di header respons, ekstrak nilai operation-location. Nilai ini akan diformat seperti ini:

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Anda dapat menggunakan URL ini untuk mendapatkan status pekerjaan penyebaran.

Dapatkan status pekerjaan penyebaran

Saat Anda mengirim permintaan penyebaran yang berhasil, URL permintaan lengkap untuk memeriksa status pekerjaan (termasuk titik akhir, nama proyek, dan ID pekerjaan Anda) terkandung dalam header respons operation-location .

Gunakan permintaan GET berikut untuk mendapatkan status dari pekerjaan penyebaran Anda. Ganti nilai tempat penampung dengan nilai Anda sendiri.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{DEPLOYMENT-NAME}`	Nama penyebaran Anda. Nilai ini peka huruf besar/kecil.	`staging`
`{JOB-ID}`	ID untuk menemukan status pelatihan model Anda.	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Versi API yang Anda panggil.	`2023-04-01`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi Respons

Setelah mengirim permintaan, Anda akan mendapatkan respons berikut. Pertahankan polling titik akhir ini sampai parameter status berubah menjadi "berhasil".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Menukar penyebaran

Setelah Anda selesai menguji model yang ditetapkan ke satu penyebaran, Anda mungkin ingin menetapkannya ke penyebaran lain. Penyebaran penukaran melibatkan:

Mengambil model yang ditetapkan ke penyebaran pertama dan menetapkannya ke penyebaran kedua.
Mengambil model yang ditetapkan ke penyebaran kedua dan menetapkannya ke penyebaran pertama.

Ini dapat digunakan untuk menukar penyebaran production dan staging Anda bila Anda ingin mengambil model yang ditetapkan ke staging dan menetapkannya ke production.

Studio Bahasa
REST API

Untuk menukar penyebaran dari dalam Language Studio

Di halaman Sebarkan model , pilih dua penyebaran yang ingin Anda tukar dan pilih Tukar penyebaran dari menu atas.
Dari jendela yang muncul, pilih nama penyebaran yang ingin Anda tukar.

Buat permintaan POST menggunakan URL, header, dan isi JSON berikut untuk memulai tugas penyebaran swap.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/:swap?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{API-VERSION}`	Versi API yang Anda panggil.	`2023-04-01`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi Permintaan

{
  "firstDeploymentName": "{FIRST-DEPLOYMENT-NAME}",
  "secondDeploymentName": "{SECOND-DEPLOYMENT-NAME}"
}

Tombol	Placeholder	Nilai	Contoh
firstDeploymentName	`{FIRST-DEPLOYMENT-NAME}`	Nama untuk penyebaran pertama Anda. Nilai ini peka huruf besar/kecil.	`production`
secondDeploymentName	`{SECOND-DEPLOYMENT-NAME}`	Nama untuk penyebaran kedua Anda. Nilai ini peka huruf besar/kecil.	`staging`

Setelah mengirim permintaan API, Anda akan menerima respons 202 yang menunjukkan keberhasilan.

Untuk menghapus penyebaran dari dalam Language Studio, pilih halaman Menyebarkan model. Lalu pilih penyebaran yang ingin Anda hapus, dan pilih Hapus penyebaran dari menu atas.

Buat permintaan HAPUS menggunakan URL, header, dan isi JSON berikut untuk menghapus penyebaran pemahaman bahasa percakapan.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{projectName}/deployments/{deploymentName}?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{DEPLOYMENT-NAME}`	Nama untuk nama penyebaran Anda. Nilai ini peka huruf besar/kecil.	`staging`
`{API-VERSION}`	Versi API yang Anda panggil.	`2023-04-01`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Setelah Anda mengirim permintaan API, Anda akan menerima respons 202 yang menunjukkan keberhasilan, yang berarti penyebaran Anda telah dihapus.

Menetapkan sumber daya penyebaran

Anda dapat menyebarkan proyek ke beberapa wilayah dengan menetapkan sumber daya Bahasa yang berbeda yang ada di berbagai wilayah.

Studio Bahasa
REST API

Untuk menetapkan sumber daya penyebaran di wilayah lain di Language Studio:

Pastikan Anda telah menetapkan diri Anda sebagai Pemilik Bahasa Cognitive Services ke sumber daya yang Anda gunakan untuk membuat proyek.
Buka halaman Menyebarkan model di Language Studio.
Pilih tab Wilayah .
Pilih Tambahkan sumber daya penyebaran.
Pilih Sumber daya Bahasa di wilayah lain.

Anda sekarang siap untuk menyebarkan proyek Anda ke wilayah tempat Anda menetapkan sumber daya.

Menetapkan sumber daya penyebaran secara terprogram memerlukan autentikasi Microsoft Entra**. ID Microsoft Entra digunakan untuk mengonfirmasi bahwa Anda memiliki akses ke sumber daya yang Anda minati untuk ditetapkan ke proyek Anda untuk penyebaran multi-wilayah. Untuk menggunakan autentikasi Microsoft Entra secara terprogram saat melakukan panggilan REST API, lihat dokumentasi autentikasi layanan Azure AI.

Menetapkan sumber daya

Kirim permintaan POST menggunakan URL, header, dan isi JSON berikut untuk menetapkan sumber daya penyebaran.

Minta URL

Gunakan URL berikut saat membuat permintaan API Anda. Ganti nilai tempat penampung di bawah ini dengan nilai Anda sendiri.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:assign?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{API-VERSION}`	Versi API yang Anda panggil.	`2022-10-01-preview`

Header

Gunakan autentikasi Microsoft Entra untuk mengautentikasi API ini.

Isi

Gunakan sampel JSON berikut sebagai badan Anda.

{
  "resourcesMetadata": [
    {
      "azureResourceId": "{AZURE-RESOURCE-ID}",
      "customDomain": "{CUSTOM-DOMAIN}",
      "region": "{REGION-CODE}"
    }
  ]
}

Tombol	Placeholder	Nilai	Contoh
`azureResourceId`	`{AZURE-RESOURCE-ID}`	Jalur ID sumber daya lengkap yang ingin Anda tetapkan. Ditemukan di portal Azure di bawah tab Properti untuk sumber daya, di dalam bidang ID Sumber Daya.	`/subscriptions/12345678-0000-0000-0000-0000abcd1234/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource`
`customDomain`	`{CUSTOM-DOMAIN}`	Subdomain kustom sumber daya yang ingin Anda tetapkan. Ditemukan di portal Azure di bawah tab Kunci dan Titik Akhir untuk sumber daya, bagian dari bidang Titik Akhir di URL`https://<your-custom-subdomain>.cognitiveservices.azure.com/`	`contosoresource`
`region`	`{REGION-CODE}`	Kode wilayah yang menentukan wilayah sumber daya yang ingin Anda tetapkan. Ditemukan di portal Azure di bawah tab Kunci dan Titik Akhir untuk sumber daya, sebagai bagian dari bidang Lokasi/Wilayah.	`eastus`

Dapatkan status tetapkan sumber daya

Gunakan permintaan GET berikut untuk mendapatkan status pekerjaan sumber daya penyebaran tugas Anda. Ganti nilai tempat penampung di bawah ini dengan nilai Anda sendiri.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/assign/jobs/{JOB-ID}?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{JOB-ID}`	ID pekerjaan untuk mendapatkan status penyebaran tugas Anda. Ini ada di nilai header yang `operation-location` Anda terima dari API sebagai respons terhadap permintaan sumber daya penyebaran yang ditetapkan.	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Versi API yang Anda panggil.	`2022-10-01-preview`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi Respons

Setelah mengirim permintaan, Anda akan mendapatkan respons berikut. Pertahankan polling titik akhir ini sampai parameter status berubah menjadi "berhasil".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Membatalkan penetapan sumber daya penyebaran

Saat membatalkan penetapan atau menghapus sumber daya penyebaran dari proyek, Anda juga akan menghapus semua penyebaran yang telah disebarkan ke wilayah sumber daya tersebut.

Studio Bahasa
REST API

Untuk menghapus penetapan atau menghapus sumber daya penyebaran di wilayah lain menggunakan Language Studio:

Buka tab Wilayah di halaman Sebarkan model .
Pilih sumber daya yang ingin Anda batalkan penandatanganannya.
Pilih tombol Hapus penugasan .
Di jendela yang muncul, ketik nama sumber daya yang ingin Anda hapus.

Batalkan penjatuhan sumber daya

Kirim permintaan POST menggunakan URL, header, dan isi JSON berikut untuk menghapus penetapan atau menghapus sumber daya penyebaran dari proyek Anda.

Minta URL

Gunakan URL berikut saat membuat permintaan API Anda. Ganti nilai tempat penampung di bawah ini dengan nilai Anda sendiri.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:unassign?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{API-VERSION}`	Versi API yang Anda panggil.	`2022-10-01-preview`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi

Gunakan sampel JSON berikut sebagai badan Anda.

{
  "assignedResourceIds": [
    "{AZURE-RESOURCE-ID}"
  ]
}

Tombol	Placeholder	Nilai	Contoh
`assignedResourceIds`	`{AZURE-RESOURCE-ID}`	Jalur ID sumber daya lengkap yang ingin Anda batalkan penjagaannya. Ditemukan di portal Azure di bawah tab Properti untuk sumber daya sebagai bidang ID Sumber Daya.	`/subscriptions/d73a1925-0000-0000-0000-0000c5fe888e/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource`

Mendapatkan status sumber daya batal ditetapkan

Gunakan permintaan GET berikut untuk mendapatkan status tugas sumber daya penyebaran anda yang tidak ditetapkan. Ganti nilai tempat penampung di bawah ini dengan nilai Anda sendiri.

Minta URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/unassign/jobs/{JOB-ID}?api-version={API-VERSION}

Placeholder	Nilai	Contoh
`{ENDPOINT}`	Titik akhir untuk mengautentikasi permintaan API Anda.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Nama untuk proyek Anda. Nilai ini peka huruf besar/kecil.	`myProject`
`{JOB-ID}`	ID pekerjaan untuk mendapatkan status penyebaran tugas Anda. Ini adalah nilai header yang `operation-location` Anda terima dari API sebagai respons terhadap permintaan sumber daya penyebaran yang tidak ditetapkan.	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Versi API yang Anda panggil.	`2022-10-01-preview`

Header

Gunakan header berikut untuk mengautentikasi permintaan Anda.

Tombol	Nilai
`Ocp-Apim-Subscription-Key`	Kunci sumber daya Anda. Digunakan untuk mengautentikasi permintaan API Anda.

Isi Respons

Setelah mengirim permintaan, Anda akan mendapatkan respons berikut. Pertahankan polling titik akhir ini sampai parameter status berubah menjadi "berhasil".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Langkah berikutnya

Gunakan API prediksi untuk mengkueri model Anda

Share via

Terapkan model

Prasyarat

Menyebarkan model

Mengirimkan pekerjaan penyebaran

Minta URL

Header

Isi Permintaan

Dapatkan status pekerjaan penyebaran

Minta URL

Header

Isi Respons

Menukar penyebaran

Minta URL

Header

Isi Permintaan

Menghapus penyebaran

Minta URL

Header

Menetapkan sumber daya penyebaran

Menetapkan sumber daya

Minta URL

Header

Isi

Dapatkan status tetapkan sumber daya

Minta URL

Header

Isi Respons

Membatalkan penetapan sumber daya penyebaran

Batalkan penjatuhan sumber daya

Minta URL

Header

Isi

Mendapatkan status sumber daya batal ditetapkan

Minta URL

Header

Isi Respons

Langkah berikutnya

Sumber Daya Tambahan: