Azure Content Moderator nedir?
Dikkat
Content Moderator gözden geçirme aracı artık kullanım dışıdır ve 12/31/2021 tarihinde kullanımdan kaldırılacaktır.
Azure Content Moderator, rahatsız edici, riskli veya başka türlü istenmeyen içerikleri işlemenize imkan tanıyan bir AI hizmetidir. Metin, resim ve videoları tarayan ve içerik bayraklarını otomatik olarak uygulayan AI destekli içerik denetleme hizmetini ve ayrıca, bir insan gözden geçirenler ekibi için çevrimiçi bir moderatör ortamı olan gözden geçirme aracını içerir.
Yönetmeliklere uymak veya kullanıcılarınız için amaçlanan ortamı sürdürmek üzere uygulamanıza içerik filtreleme yazılımı oluşturmak isteyebilirsiniz.
Bu belge aşağıdaki makale türlerini içerir:
- Hızlı başlangıçlarda, hizmette istek yapma konusunda size kılavuzluk eden başlangıç yönergeleri bulunur.
- Nasıl yapılır kılavuzlarında , hizmetin daha belirli veya özelleştirilmiş yollarla kullanılmasına ilişkin yönergeler bulunur.
- Kavramlar , hizmet işlevselliği ve özelliklerinin ayrıntılı açıklamalarını sağlar.
- Öğreticiler daha fazla iş çözümlerinde hizmeti bir bileşen olarak nasıl kullanacağınızı gösteren kılavuzlardır.
Kullanıldığı yer
Aşağıda, bir yazılım geliştiricisi veya takımının bir içerik denetleme hizmeti gerektirdiği bazı senaryolar verilmiştir:
- Çevrimiçi Pazar, bu orta düzey ürün kataloglarını ve diğer Kullanıcı tarafından oluşturulan içeriği koyar.
- Kullanıcı tarafından oluşturulan oyun yapıtları ve sohbet odalarını kullanan oyun şirketleri.
- Kullanıcıları tarafından eklenen görüntü, metin ve videoların bulunduğu sosyal mesaj platformları.
- içerikleri için merkezi denetleme uygulayan medya şirketlerinden Enterprise.
- K-12 Eğitim çözüm sağlayıcıları öğrenciler ve eğitimciler için uygun olmayan içeriği filtreleyerek.
Önemli
Geçersiz alt düzey yararlanma görüntülerini algılamak için Content Moderator kullanamazsınız. Ancak nitelikli kuruluşlar, bu tür bir içerik için PhotoDNA bulut hizmetini kullanabilir.
Neleri içerir
Content Moderator hizmeti hem REST çağrıları hem de .NET SDK'sı ile sunulan çeşitli web hizmeti API'lerinden oluşur. Ayrıca, insan gözden geçirenlerin hizmete yardımcı olmasına ve denetleme işlevini geliştirmesine veya ince ayar yapmasına olanak tanıyan Inceleme aracını da içerir.
Yönetim API’leri
Content Moderator hizmeti, uygunsuz veya sakıncalı olabilecek malzemelere yönelik içeriği denetleyen denetleme API 'Lerini içerir.
Aşağıdaki tabloda farklı denetleme API 'Leri açıklanmaktadır.
| API grubu | Description |
|---|---|
| Metin denetimi | Saldırgan içeriği, cinsel açık veya müstehcen içerik, küfür ve kişisel veriler için metin tarar. |
| Özel terim listeleri | Metni, yerleşik koşullarla birlikte özel bir terim listesine karşı tarar. İçerik ilkelerinize göre içerik engellemek veya izin vermek için özel listeler kullanabilirsiniz. |
| Görüntü denetimi | Görüntülerde yetişkinlere yönelik veya müstehcen görüntü taraması yapar, Optik Karakter Tanıyıcı (OCR) ile görüntüdeki metinleri tanır ve yüzleri algılar. |
| Özel görüntü listeleri | Görüntüleri özel görüntü listesine göre tarar. Özel görüntü listelerini kullanarak tekrar tekrar sınıflandırmak istemediğiniz yaygın içerik örneklerini filtreleyebilirsiniz. |
| Video denetimi | Videolarda yetişkinlere yönelik veya müstehcen içerik taraması yapar ve bu içeriklerle ilgili zaman işaretçilerini döndürür. |
API’leri inceleme
Inceleme API 'Leri, denetleme işlem hattınızı insan gözden geçirenler ile tümleştirmenize olanak sağlar. İnceleme aracı (aşağıda) ile insan döngüsü iş akışları oluşturmak ve otomatikleştirmek için işler, incelemelerve iş akışı işlemlerini kullanın.
Not
Iş akışı API 'SI henüz .NET SDK 'da kullanılamıyor ancak REST uç noktasıyla birlikte kullanılabilir.
Gözden geçirme aracı
Content Moderator hizmeti Ayrıca, insan moderatör 'nin işlemesi için içerik incelemelerini barındıran Web tabanlı İnceleme aracınıda içerir. İnsan girişi hizmeti eğmez, ancak hizmetin ve insan incelemesi ekibinin birleştirilmiş çalışmaları, geliştiricilerin verimlilik ve doğruluk arasındaki doğru dengeyi belirlemesine izin verir. Inceleme aracı Ayrıca birkaç Content Moderator kaynağı için Kullanıcı dostu bir ön uç sağlar.
Veri gizliliği ve güvenliği
Tüm bilişsel hizmetlerde olduğu gibi, Content Moderator hizmetini kullanan geliştiriciler Microsoft 'un müşteri verileri ilkelerine göre farkında olmalıdır. Daha fazla bilgi edinmek için Microsoft Güven Merkezi ' nde bilişsel Hizmetler sayfasına bakın.
Sonraki adımlar
Web portalında Content Moderator kullanmaya başlamak için Web üzerinde Content moderator deneyin' i izleyin. Ya da, kodda temel senaryoları uygulamak için bir istemci kitaplığını veya REST API hızlı başlangıcı ' nı tamamlayabilirsiniz.