العمل مع نماذج Azure OpenAI
يتم تشغيل خدمة Azure OpenAI من خلال مجموعة متنوعة من النماذج ذات القدرات المختلفة ونقاط الأسعار. يختلف توفر النموذج حسب المنطقة.
يمكنك الحصول على قائمة بالنماذج المتوفرة لكل من الاستدلال والضبط الدقيق بواسطة مورد Azure OpenAI باستخدام واجهة برمجة تطبيقات قائمة النماذج.
تحديثات النموذج
يدعم Azure OpenAI الآن التحديثات التلقائية لتوزيعات النماذج المحددة. في النماذج التي يتوفر فيها دعم التحديث التلقائي، تظهر القائمة المنسدلة لإصدار النموذج في Azure OpenAI Studio ضمن إنشاء نشر جديد وتحرير النشر:
يمكنك معرفة المزيد حول إصدارات نموذج Azure OpenAI وكيفية عملها في مقالة إصدارات نموذج Azure OpenAI.
التحديث التلقائي إلى الافتراضي
عند تعيين النشر الخاص بك إلى التحديث التلقائي إلى الافتراضي، يتم تحديث نشر النموذج تلقائيا في غضون أسبوعين من التغيير في الإصدار الافتراضي. بالنسبة لإصدار المعاينة، يتم تحديثه تلقائيا عند توفر إصدار معاينة جديد بدءا من أسبوعين بعد إصدار المعاينة الجديد.
إذا كنت لا تزال في مراحل الاختبار المبكر لنماذج الاستدلال، نوصي بنشر النماذج مع التحديث التلقائي إلى الإعداد الافتراضي كلما كانت متوفرة.
إصدار نموذج محدد
مع تطور استخدامك ل Azure OpenAI، وتبدأ في الإنشاء والتكامل مع التطبيقات التي قد ترغب في التحكم في تحديثات النموذج يدويا. يمكنك أولا اختبار والتحقق من أن سلوك التطبيق الخاص بك متناسق لحالة الاستخدام الخاصة بك قبل الترقية.
عند تحديد إصدار نموذج معين للنشر، يظل هذا الإصدار محددا حتى تختار إما تحديث نفسك يدويا، أو بمجرد الوصول إلى تاريخ إيقاف النموذج. عند الوصول إلى تاريخ الإيقاف، سيقوم النموذج بالترقية تلقائيا إلى الإصدار الافتراضي في وقت الإيقاف.
عرض تواريخ الإيقاف
بالنسبة للنماذج المنشورة حاليا، من Azure OpenAI Studio حدد Deployments:
لعرض تواريخ الإيقاف لجميع النماذج المتوفرة في منطقة معينة من Azure OpenAI Studio، حدد خيارات> عمود النماذج>حدد ضبط الإهمال والاستدلال على الإهمال:
تكوين ترقية توزيع النموذج
يمكنك التحقق من خيارات ترقية النموذج التي تم تعيينها للنماذج المنشورة مسبقا في Azure OpenAI Studio. حدد Deployments> ضمن عمود deployment name حدد أحد أسماء التوزيع المميزة باللون الأزرق.
يؤدي تحديد اسم نشر إلى فتح خصائص نشر النموذج. يمكنك عرض خيارات الترقية التي تم تعيينها للتوزيع ضمن نهج تحديث الإصدار:
يمكن أيضا الوصول إلى الخاصية المقابلة عبر REST وAzure PowerShell وAzure CLI.
| خيار | قراءة | Update |
|---|---|---|
| بقيه | نعم. إذا versionUpgradeOption لم يتم إرجاعه، فهذا يعني أنه null |
نعم |
| Azure PowerShell | نعم.VersionUpgradeOption يمكن التحقق من وجود $null |
نعم |
| Azure CLI | نعم. يظهر null ما إذا versionUpgradeOption لم يتم تعيين. |
لا. لا يمكن حاليا تحديث خيار ترقية الإصدار. |
هناك ثلاثة خيارات مميزة لترقية توزيع النموذج:
| Name | الوصف |
|---|---|
OnceNewDefaultVersionAvailable |
بمجرد تعيين إصدار جديد كافتراضي، يتم ترقية نشر النموذج تلقائيا إلى الإصدار الافتراضي في غضون أسبوعين من إجراء تغيير التعيين هذا. |
OnceCurrentVersionExpired |
بمجرد الوصول إلى تاريخ الإيقاف، يقوم توزيع النموذج بالترقية تلقائيا إلى الإصدار الافتراضي الحالي. |
NoAutoUpgrade |
لا يقوم توزيع النموذج بالترقية تلقائيا أبدا. بمجرد الوصول إلى تاريخ الإيقاف، يتوقف نشر النموذج عن العمل. تحتاج إلى تحديث التعليمات البرمجية الخاصة بك التي تشير إلى هذا النشر للإشارة إلى نشر نموذج غير منتهية. |
إشعار
null يُعادل AutoUpgradeWhenExpired. إذا لم يكن خيار نهج تحديث الإصدار موجودا في خصائص نموذج يدعم ترقيات النموذج، فهذا يشير إلى أن القيمة حاليا null. بمجرد تعديل هذه القيمة بشكل صريح، تكون الخاصية مرئية في صفحة خصائص الاستوديو وكذلك عبر واجهة برمجة تطبيقات REST.
الأمثلة
راجع دليل بدء Azure PowerShell لتثبيت Azure PowerShell محليا أو يمكنك استخدام Azure Cloud Shell.
توضح الخطوات أدناه التحقق من VersionUpgradeOption خاصية الخيار بالإضافة إلى تحديثه:
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}
// To update to a new model version
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version
// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
تحديث النماذج ونشرها عبر واجهة برمجة التطبيقات
PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01
معلمات المسار
| المعلمة | النوع | مطلوب؟ | الوصف |
|---|---|---|---|
acountname |
سلسلة | المطلوب | اسم مورد Azure OpenAI الخاص بك. |
deploymentName |
سلسلة | المطلوب | اسم النشر الذي اخترته عند نشر نموذج موجود أو الاسم الذي ترغب في أن يكون لنشر نموذج جديد. |
resourceGroupName |
سلسلة | المطلوب | اسم مجموعة الموارد المقترنة لنشر هذا النموذج. |
subscriptionId |
سلسلة | المطلوب | معرف الاشتراك للاشتراك المقترن. |
api-version |
سلسلة | المطلوب | إصدار واجهة برمجة التطبيقات لاستخدامه لهذه العملية. يتبع هذا التنسيق YYYY-MM-DD. |
الإصدارات المدعومة
2023-05-01مواصفات Swagger
نص الطلب
هذه ليست سوى مجموعة فرعية من معلمات نص الطلب المتوفرة. للحصول على القائمة الكاملة للمعلمات، يمكنك الرجوع إلى الوثائق المرجعية لواجهة برمجة تطبيقات REST.
عينة طلب
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
-H "Content-Type: application/json" \
-H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
-d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'
إشعار
هناك طرق متعددة لإنشاء رمز مميز للتخويل. أسهل طريقة للاختبار الأولي هي تشغيل Cloud Shell من مدخل Microsoft Azure. ثم شغّل az account get-access-token. يمكنك استخدام هذا الرمز المميز كرمز تخويل مؤقت لاختبار واجهة برمجة التطبيقات.
مثال على الاستجابة
{
"id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
"type": "Microsoft.CognitiveServices/accounts/deployments",
"name": "gpt-35-turbo",
"sku": {
"name": "Standard",
"capacity": 120
},
"properties": {
"model": {
"format": "OpenAI",
"name": "gpt-35-turbo",
"version": "0613"
},
"versionUpgradeOption": "OnceCurrentVersionExpired",
"capabilities": {
"chatCompletion": "true"
},
"provisioningState": "Succeeded",
"rateLimits": [
{
"key": "request",
"renewalPeriod": 10,
"count": 120
},
{
"key": "token",
"renewalPeriod": 60,
"count": 120000
}
]
},
"systemData": {
"createdBy": "docs@contoso.com",
"createdByType": "User",
"createdAt": "2023-02-28T02:57:15.8951706Z",
"lastModifiedBy": "docs@contoso.com",
"lastModifiedByType": "User",
"lastModifiedAt": "2023-10-31T15:35:53.082912Z"
},
"etag": "\"GUID\""
}