Content Moderator nedir?
Con çadır modu ration, basit adımları içeren bir süreçtir. İçeriğin genel kullanım için görüntülenmeden veya yayınlanmadan önce gözden geçirilmesi, izlenmesi ve yorumlanması. Ancak, büyük miktarda içeriği denetlemek zaman alabilir. Content Moderator gibi bir hizmet kullanarak bu sürecin büyük bir kısmını otomatikleştirebilir ve insan incelemesi gereksinimini uygun şekilde ayarlayabilirsiniz.
Content Moderator hizmeti, yapay zeka tarafından desteklenen ve Azure'da çalışan bir API'dir. Hizmet, olası riskli, rahatsız edici veya istenmeyen yönleri için metin, görüntü ve video içeriğini tarayabilir. İçerik bayraklarını otomatik olarak uygular, ancak Gözden Geçir aracıyla da tümleşir. Gözden Geçirme aracı, bayrak eklenmiş içeriğin insan tarafından gözden geçirilmesini kolaylaştırmak için kullanılan çevrimiçi bir moderatör ortamıdır.
API'ler
Content Moderator'da farklı api türleri vardır. Aşağıdaki tabloda geçerli API'lerin her biri açıklanmaktadır.
| API | İşlev |
|---|---|
| Metin Denetimi | Rahatsız edici, cinsel açıdan açık veya müstehcen, küfürlü ve kişisel veri açısından metinleri tarar. |
| Görüntü Denetimi | Görüntüleri tarar ve yetişkinlere yönelik içerik mi yoksa müstehcen içerik mi içerdiklerini belirler. Ayrıca Optik Karakter Tanıma (OCR) kullanarak görüntüdeki metinleri tarar ve görüntüdeki yüzleri de algılayabilir. |
| Video Denetimi | Video dosyalarındaki yetişkinlere yönelik veya müstehcen içeriği tarar. API, içeriğin bulunduğu zaman işaretleyicilerini döndürür. |
| Özel Terim Listeleri | Oluşturduğunuz terimlerin listesini içeren metni tarar. Kuruluşunuzun içerik ilkelerine göre içeriği engellemek veya içeriğe izin vermek için listeyi kullanabilirsiniz. |
| Özel Görüntü Listeleri | Görüntüleri özel görüntü listelerinizde tarar. Yeniden sınıflandırmak istemediğiniz sık yinelenen içeriği filtrelemek için listeyi kullanabilirsiniz. |
İçerik gözden geçirme
Otomatik con çadır modu ration yine de doğrulama gerektirebilir. Ayrıca, hizmetin denetleme görevlerinde nasıl performans sergilediğini izlemek istediğinize de karar vekleyebilirsiniz. Content Moderator hizmeti bir dizi gözden geçirme API'sini de destekler. Gözden geçirme API'lerini kullanarak, bir insan gözden geçireni iş akışına getirebilirsiniz. İnsanlar gözden geçirme aracı aracılığıyla hizmetle etkileşim kurar: İnsan moderatörlerin işleyip izleyebilebileceği içerik gözden geçirmelerini barındıran web tabanlı bir arabirim.