Pelajari konsep moderasi gambar

  • Artikel

Gunakan moderasi gambar yang dibantu komputer Content Moderator guna memoderasi gambar untuk konten dewasa dan cabul. Pindai gambar untuk konten teks dan ekstrak teks itu, dan deteksi wajah. Anda dapat mencocokkan gambar dengan daftar khusus, dan mengambil tindakan lebih lanjut.

Mengevaluasi untuk konten dewasa dan cabul

Operasi Evaluate mengembalikan skor keyakinan antara 0 dan 1. Itu juga mengembalikan data boolean sama dengan benar atau salah. Nilai-nilai ini memprediksi apakah gambar tersebut mengandung potensi konten dewasa atau cabul. Saat Anda memanggil API dengan gambar (file atau URL), respons yang dikembalikan menyertakan informasi berikut:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Catatan

  • isImageAdultClassified mewakili potensi keberadaan gambar yang dapat dianggap eksplisit secara seksual atau dewasa dalam situasi tertentu.
  • isImageRacyClassified mewakili potensi keberadaan gambar yang mungkin dianggap menjurus secara seksual atau dewasa dalam situasi tertentu.
  • Skornya antara 0 dan 1. Semakin tinggi skornya, semakin tinggi prediksi model bahwa kategori tersebut dapat diterapkan. Pratinjau ini bergantung pada model statistik daripada hasil yang dikodekan secara manual. Kami merekomendasikan pengujian dengan konten Anda sendiri untuk menentukan bagaimana setiap kategori sesuai dengan kebutuhan Anda.
  • Nilai boolean benar atau salah tergantung pada ambang skor internal. Pelanggan harus menilai apakah akan menggunakan nilai ini atau memutuskan ambang kustom berdasarkan kebijakan konten mereka.

Mendeteksi teks dengan Pengenalan Karakter Optik (OCR)

Operasi Pengenalan Karakter Optik (OCR) memprediksi keberadaan konten teks dalam gambar dan mengekstraknya untuk moderasi teks, di antara kegunaan lainnya. Anda dapat menentukan bahasa pemrograman. Jika Anda tidak menentukan bahasa pemrograman, default deteksi adalah bahasa pemrograman Inggris.

Tanggapan mencakup informasi berikut:

  • Teks asli.
  • Elemen teks yang terdeteksi dengan skor keyakinannya.

Ekstrak sampel:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Mendeteksi wajah

Mendeteksi wajah membantu mendeteksi data pribadi seperti wajah dalam gambar. Anda mendeteksi wajah potensial dan jumlah wajah potensial di setiap gambar.

Tanggapan mencakup informasi ini:

  • Jumlah wajah
  • Daftar lokasi wajah yang terdeteksi

Ekstrak sampel:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Membuat dan mengelola daftar kustom

Di banyak komunitas online, setelah pengguna mengunggah gambar atau jenis konten lainnya, item yang menyinggung dapat dibagikan beberapa kali selama beberapa hari, minggu, dan bulan berikutnya. Biaya pemindaian berulang kali dan memfilter gambar yang sama atau bahkan versi gambar yang sedikit dimodifikasi dari beberapa tempat bisa mahal dan rawan kesalahan.

Alih-alih memoderasi gambar yang sama beberapa kali, Anda menambahkan gambar yang menyinggung ke daftar khusus konten yang diblokir. Dengan begitu, sistem moderasi konten Anda membandingkan gambar yang masuk dengan daftar kustom Anda dan menghentikan pemrosesan lebih lanjut.

Catatan

Ada batas maksimum 5 daftar gambar dengan setiap daftar agar tidak melebihi 10.000 gambar.

Content Moderator menyediakan API Manajemen Daftar Gambar lengkap dengan operasi untuk mengelola daftar gambar khusus. Mulailah dengan Konsol API Daftar Gambar dan gunakan contoh kode API REST. Lihat juga Daftar Gambar .NET mulai cepat jika Anda terbiasa dengan Visual Studio dan C#.

Mencocokkan dengan daftar kustom Anda

Operasi Pencocokan memungkinkan pencocokan fuzzy dari gambar yang masuk dengan salah satu daftar kustom Anda, yang dibuat dan dikelola menggunakan operasi Daftar.

Jika kecocokan ditemukan, operasi mengembalikan pengidentifikasi dan tag moderasi dari gambar yang cocok. Tanggapannya mencakup informasi ini:

  • Skor pertandingan (antara 0 dan 1)
  • Gambar yang cocok
  • Tag gambar (ditetapkan selama moderasi sebelumnya)
  • Label gambar

Ekstrak sampel:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Langkah berikutnya

Uji coba Konsol API Moderasi Gambar dan gunakan sampel kode API REST.