Información sobre los conceptos de moderación de imágenes

  • Artículo

Use la moderación de imágenes asistida por máquina de Content Moderator para moderar imágenes con contenido para adultos y subido de tono. Digitalice imágenes por su contenido de texto y extraiga dicho texto y detecte caras. Puede comparar las imágenes con las de listas personalizadas y, posteriormente, realizar las acciones necesarias.

Evaluación de contenido para adultos y subido de tono

La operación Evaluate (Evaluar) devuelve una puntuación de confianza entre 0 y 1. También devuelve datos booleanos que equivalen a true o false. Estos valores predicen si la imagen tiene contenido potencial para adultos o subido de tono. Al llamar a la API con la imagen (archivo o dirección URL), la respuesta que se devuelve incluye la siguiente información:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Nota

  • isImageAdultClassified representa la posible presencia de imágenes que se pueden considerar sexualmente explícitas o para adultos en ciertas situaciones.
  • isImageRacyClassified representa la posible presencia de imágenes que se pueden considerar sexualmente sugerentes o para adultos en ciertas situaciones.
  • Las puntuaciones oscilan entre 0 y 1. Cuanto más alta sea la puntuación, mayor será la predicción del modelo sobre la aplicabilidad de la categoría. Esta versión preliminar usa un modelo estadístico, en lugar de resultados codificados manualmente. Se recomienda realizar pruebas con contenido propio para determinar cómo se alinea cada categoría en función de sus propios requisitos.
  • Los valores booleanos son true o false según los umbrales de puntuación internos. Los clientes deben evaluar si quieren usar este valor o decidir si desean umbrales personalizados basados en sus directivas de contenido.

Detección de texto con reconocimiento óptico de caracteres (OCR)

La operaciónOptical Character Recognition (OCR) (Reconocimiento óptico de caracteres) predice la presencia de contenido de texto en una imagen y lo extrae para moderarlo, entre otros usos. Puede especificar el idioma. Si no especifica un idioma, el valor predeterminado de la detección es inglés.

La respuesta incluye la siguiente información:

  • El texto original.
  • Los elementos de texto detectados con sus puntuaciones de confianza.

Extracción de ejemplo:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Detección de caras

La detección de caras ayuda a detectar datos personales, como las caras, en las imágenes. Detecte posibles caras y el número de caras posibles en cada imagen.

Una respuesta incluye esta información:

  • Número de caras
  • Lista de ubicaciones de las caras detectados

Extracción de ejemplo:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Creación y administración de listas personalizadas

En muchas de comunidades en línea, cuando los usuarios cargan imágenes u otro tipo de contenido, los elementos ofensivos se pueden compartir varias veces en los siguientes días, semanas y meses. Los costos del reiterado examen y filtrado de la misma imagen, o incluso versiones con pequeñas modificaciones de la misma, desde varios lugares pueden ser elevados y, además, son operaciones propensas a errores.

En lugar de moderar la misma imagen varias veces, agregue las imágenes ofensivas a su lista personalizada de contenido bloqueado. De esa forma, el sistema de moderación de contenido compara las imágenes entrantes con las de las listas personalizadas y detiene cualquier procesamiento posterior.

Nota

Hay un límite máximo de 5 listas de imágenes y cada una de ellas no debe superar las 10 000 imágenes.

Content Moderator proporciona una completa API de administración de listas de imágenes con operaciones de administración de listas de imágenes personalizadas. Comience con la consola de API de listas de imágenes y use los ejemplos de código de la API REST. Consulte también la guía de inicio rápido de .NET de listas de imágenes si está familiarizado con C# y Visual Studio.

Coincidencia con listas personalizadas

La operación Match (Comparar) permite la coincidencia aproximada de las imágenes entrantes con las de cualquiera de sus listas personalizadas, que se crean y administran mediante las operaciones de List (Lista).

Si se encuentra una coincidencia, la operación devuelve el identificador y las etiquetas de moderación de la imagen coincidente. La respuesta incluye esta información:

  • Puntuación de coincidencia (entre 0 y 1)
  • Imagen coincidente
  • Etiquetas de imagen (se asignan en la moderación anterior)
  • Etiquetas de imagen

Extracción de ejemplo:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Pasos siguientes

Use la versión de prueba de la consola de Image Moderation API y los ejemplos de código de la API REST.