Content Moderator nasıl çalışır?

  • 10 dakika

Content Moderator hizmetini kullanmak için bir Azure aboneliği ve Content Moderator kaynağı gerekir. Kaynak hizmete erişmek için gereklidir ve hizmetin uç noktasını ve erişim anahtarını sağlar.

Microsoft, hizmeti test etmek için kullanabileceğiniz ücretsiz bir fiyatlandırma katmanı sağlar. Ücretsiz katmanı kullanarak Content Moderator hizmetinin kuruluşunuz için doğru seçim olup olmadığını belirleyebilirsiniz.

Content Moderator hizmetine REST aracılığıyla veya uygun yazılım geliştirme seti (SDK) kullanılarak erişilebilir. SDK'da şu anda desteklenen diller şunlardır:

  • .NET
  • Java
  • Node.js
  • Python
  • Go

Metni denetleme

Bir dosyadaki metni taramak için API (ModerateText) içinde tek bir yöntem çağırabilirsiniz. Yöntem çağrısında giriş dosyasını ve bir çıkış dosyasını belirtirsiniz. Hizmet, dosyadaki metni tarar ve sonuçları çıkış dosyasında döndürür. API, çağıran uygulamaya JSON biçimli bir sonuç döndürür. Örnek bir metin girişi kullanarak:

"Is this a janky email abcdef@abcd.com, phone: 6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052"

Hizmet bazı kişisel verileri (e-posta, telefon, IP ve adres) tanımlar ve ardından bir gözden geçirme önerisiyle metni sınıflandırır.

{
  "OriginalText": "Is this a janky email abcdef@abcd.com, phone: 6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052",
  "NormalizedText": "   janky email abcdef@abcd.com, phone: 6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052",
  "Misrepresentation": null,
  "PII": {
    "Email": [{
      "Detected": "abcdef@abcd.com",
      "SubType": "Regular",
      "Text": "abcdef@abcd.com",
      "Index": 21
    }],
    "IPA": [{
      "SubType": "IPV4",
      "Text": "255.255.255.255",
      "Index": 61
    }],
    "Phone": [{
      "CountryCode": "US",
      "Text": "6657789887",
      "Index": 45
    }],
    "Address": [{
      "Text": "1 Microsoft Way, Redmond, WA 98052",
      "Index": 78
    }],
    "SSN": []
  },
  "Classification": {
    "ReviewRecommended": true,
    "Category1": {
      "Score": 0.00040505084325559437
    },
    "Category2": {
      "Score": 0.22345089912414551
    },
    "Category3": {
      "Score": 0.98799997568130493
    }
  },
  "Language": "eng",
  "Terms": [{
    "Index": 3,
    "OriginalIndex": 10,
    "ListId": 0,
    "Term": "janky"
  }],
  "Status": {
    "Code": 3000,
    "Description": "OK",
    "Exception": null
  },
  "TrackingId": "7a6e3717-1382-4b63-a8f4-24922e041f82"
}

Görüntüleri denetleme

Görüntü denetimi için hizmetin kullanılması, görüntülerin BIR URL üzerinden erişilebilir olmasını gerektirir. Birden çok resminiz varsa, her görüntünün URL'lerini bir metin dosyasına ayrı bir satır öğesi olarak yerleştirir ve hizmete gönderirsiniz. Hizmet her görüntüyü ayrı ayrı değerlendirir.

Görüntü değerlendirildiğinde, yetişkin ve müstehcen kategoriler için puan ve sınıflandırmayı gösteren bir JSON sonucu döndürülür.

{
  "AdultClassificationScore": 0.02518901415169239,
  "IsImageAdultClassified": false,
  "RacyClassificationScore": 0.052860850468277931,
  "IsImageRacyClassified": false,
  "Result": false,
  "AdvancedInfo": [{
    "Key": "ImageDownloadTimeInMs",
    "Value": "499"
  }, {
    "Key": "ImageSizeInBytes",
    "Value": "273405"
  }],
  "Status": {
    "Code": 3000,
    "Description": "OK",
    "Exception": null
  },
  "TrackingId": "d993e832-1bf5-48b2-b2b3-73e57b2bd6a2"
}

Görüntü API'si ayrıca yüz algılamayı çalıştırma, görüntüdeki metni taramak için OCR gerçekleştirme veya özel görüntü listesinde görüntü eşleştirme gerçekleştirme olanağı sunar. Her API çağrısı ayrı bir işlevdir.