Share via

Azure OpenAI modelleriyle çalışma

  • Makale

Azure OpenAI Service, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller tarafından desteklenir. Model kullanılabilirliği bölgeye göre değişir.

Model Listesi API'sini kullanarak Azure OpenAI kaynağınız tarafından hem çıkarım hem de ince ayar için kullanılabilen modellerin listesini alabilirsiniz.

Model güncelleştirmeleri

Azure OpenAI artık belirli model dağıtımları için otomatik güncelleştirmeleri destekliyor. Otomatik güncelleştirme desteğinin kullanılabildiği modellerde, Azure OpenAI Studio'da Yeni dağıtım oluştur ve Dağıtımı düzenle altında bir model sürümü açılır menüsü görünür:

Screenshot of the deploy model UI of Azure OpenAI Studio.

Azure OpenAI modeli sürümleri ve bunların nasıl çalıştığı hakkında daha fazla bilgiyi Azure OpenAI modeli sürümleri makalesinde bulabilirsiniz.

Varsayılana otomatik güncelleştirme

Dağıtımınızı Otomatik güncelleştirme olarak varsayılan olarak ayarladığınızda, model dağıtımınız varsayılan sürümdeki değişikliği izleyen iki hafta içinde otomatik olarak güncelleştirilir. Önizleme sürümü için, yeni önizleme sürümü yayımlandıktan iki hafta sonra yeni bir önizleme sürümü kullanıma sunulduğunda otomatik olarak güncelleştirilir.

Çıkarım modelleri için hala erken test aşamalarındaysanız, otomatik güncelleştirme özelliğine sahip modelleri her kullanılabilir olduğunda varsayılan ayara dağıtmanızı öneririz.

Belirli model sürümü

Azure OpenAI kullanımınız geliştikçe ve model güncelleştirmelerini el ile denetlemek isteyebilirsiniz. Yükseltmeden önce uygulamanızın davranışının kullanım örneğiniz için tutarlı olduğunu test edebilir ve doğrulayabilirsiniz.

Dağıtım için belirli bir model sürümünü seçtiğinizde, kendiniz güncelleştirmeyi seçene veya modelin kullanımdan kaldırma tarihine ulaşana kadar bu sürüm seçili kalır. Kullanımdan kaldırma tarihine ulaşıldığında model, kullanımdan kaldırıldığında otomatik olarak varsayılan sürüme yükseltilir.

Kullanımdan kaldırma tarihlerini görüntüleme

Şu anda dağıtılan modeller için Azure OpenAI Studio'dan Dağıtımlar'ı seçin:

Screenshot of the deployment UI of Azure OpenAI Studio.

Belirli bir bölgedeki tüm kullanılabilir modellerin kullanımdan kaldırma tarihlerini Azure OpenAI Studio'dan görüntülemek için Modeller>Sütun seçenekleri> Kullanımdan kaldırma ince ayarını ve Kullanımdan kaldırma çıkarımı'na tıklayın:

Screenshot of the models UI of Azure OpenAI Studio.

Model dağıtımı yükseltme yapılandırması

Azure OpenAI Studio'da daha önce dağıtılan modeller için hangi model yükseltme seçeneklerinin ayarlandığını kontrol edebilirsiniz. Dağıtımlar'ı> seçin Dağıtım adı sütununun altında mavi renkle vurgulanan dağıtım adlarından birini seçin.

Screenshot of the deployments pane with a deployment name highlighted.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Sürüm güncelleştirme ilkesi altında dağıtımınız için hangi yükseltme seçeneklerinin ayarlandığını görüntüleyebilirsiniz:

Screenshot of the model deployments property UI.

Buna karşılık gelen özelliğe REST, Azure PowerShell ve Azure CLI aracılığıyla da erişilebilir.

Seçenek Oku Güncelleştir
REST Evet. versionUpgradeOption Döndürülmezse,null Yes
Azure PowerShell Evet.VersionUpgradeOption denetlenebilir $null Yes
Azure CLI Evet. Ayarlanmadıysa versionUpgradeOption gösterilirnull. Hayır Şu anda sürüm yükseltme seçeneği güncelleştirilemiyor.

Üç ayrı model dağıtımı yükseltme seçeneği vardır:

Veri Akışı Adı Açıklama
OnceNewDefaultVersionAvailable Yeni bir sürüm varsayılan olarak belirlendikten sonra, model dağıtımı bu atama değişikliği yapıldıktan sonra iki hafta içinde otomatik olarak varsayılan sürüme yükseltilir.
OnceCurrentVersionExpired Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı otomatik olarak geçerli varsayılan sürüme yükseltilir.
NoAutoUpgrade Model dağıtımı hiçbir zaman otomatik olarak yükseltemez. Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı çalışmayı durdurur. Bu dağıtıma başvuran kodunuzu, var olmayan bir model dağıtımına işaret etmek için güncelleştirmeniz gerekir.

Not

null eşdeğeri, AutoUpgradeWhenExpired olur. Model yükseltmelerini destekleyen bir modelin özelliklerinde Sürüm güncelleştirme ilkesi seçeneği yoksa, değerin şu anda nullolduğunu gösterir. Bu değeri açıkça değiştirdikten sonra, özellik hem stüdyo özellikleri sayfasında hem de REST API aracılığıyla görünür.

Örnekler

Azure PowerShell'i yerel olarak yüklemek için Azure PowerShell'i kullanmaya başlama kılavuzunu gözden geçirin veya Azure Cloud Shell'i kullanabilirsiniz.

Aşağıdaki adımlarda seçenek özelliğinin denetlenmesi VersionUpgradeOption ve güncelleştirilmesi gösterilmektedir:

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

API aracılığıyla modelleri güncelleştirme ve dağıtma

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Yol parametreleri

Parametre Türü Gerekli mi? Açıklama
acountname Dize Zorunlu Azure OpenAI Kaynağınızın adı.
deploymentName Dize Zorunlu Mevcut bir modeli dağıtırken seçtiğiniz dağıtım adı veya yeni model dağıtımının olmasını istediğiniz ad.
resourceGroupName Dize Zorunlu Bu model dağıtımı için ilişkili kaynak grubunun adı.
subscriptionId Dize Zorunlu İlişkili aboneliğin abonelik kimliği.
api-version Dize Zorunlu Bu işlem için kullanılacak API sürümü. Bu, YYYY-AA-GG biçimini izler.

Desteklenen sürümler

İstek gövdesi

Bu, kullanılabilir istek gövdesi parametrelerinin yalnızca bir alt kümesidir. Parametrelerin tam listesi için REST API başvuru belgelerine başvurabilirsiniz.

Parametre Tür Açıklama
versionUpgradeOption String Dağıtım modeli sürümü yükseltme seçenekleri:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
capacity integer Bu, bu dağıtıma atadığınız kota miktarını temsil eder. 1 değeri Dakikada 1.000 Belirteç (TPM) değerine eşittir

Örnek istek

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Not

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell'i Azure portalından başlatmaktır. Ardından az account get-access-token komutunu çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Örnek yanıt

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Sonraki adımlar