Aprenda conceitos de moderação de imagemLearn image moderation concepts

Utilize a ferramenta de moderação e revisão de imagem assistida pelo Moderador de Conteúdo para moderar imagens para conteúdo adulto e picante.Use Content Moderator's machine-assisted image moderation and Review tool to moderate images for adult and racy content. Digitalize as imagens para obter conteúdo de texto e extrate esse texto e detete rostos.Scan images for text content and extract that text, and detect faces. Pode comparar imagens com listas personalizadas e tomar medidas adicionais.You can match images against custom lists, and take further action.

Avaliação para conteúdo adulto e picanteEvaluating for adult and racy content

A operação Avaliação devolve uma pontuação de confiança entre 0 e 1.The Evaluate operation returns a confidence score between 0 and 1. Também devolve dados booleans iguais aos verdadeiros ou falsos.It also returns boolean data equal to true or false. Estes valores prevêem se a imagem contém conteúdo adulto ou picante.These values predict whether the image contains potential adult or racy content. Quando liga para a API com a sua imagem (ficheiro ou URL), a resposta devolvida inclui as seguintes informações:When you call the API with your image (file or URL), the returned response includes the following information:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Nota

  • isImageAdultClassified representa a presença potencial de imagens que podem ser consideradas sexualmente explícitas ou para adultos em determinadas situações.isImageAdultClassified represents the potential presence of images that may be considered sexually explicit or adult in certain situations.
  • isImageRacyClassified representa a presença potencial de imagens que podem ser consideradas sexualmente sugestivas ou para adultos em determinadas situações.isImageRacyClassified represents the potential presence of images that may be considered sexually suggestive or mature in certain situations.
  • As notas estão entre 0 e 1.The scores are between 0 and 1. Quanto maior for a pontuação, maior é a previsão do modelo de que a categoria pode ser aplicável.The higher the score, the higher the model is predicting that the category may be applicable. Esta pré-visualização baseia-se num modelo estatístico em vez de resultados codificados manualmente.This preview relies on a statistical model rather than manually coded outcomes. Recomendamos testar com o seu próprio conteúdo para determinar como cada categoria se alinha com os seus requisitos.We recommend testing with your own content to determine how each category aligns to your requirements.
  • Os valores booleanos são verdadeiros ou falsos dependendo dos limiares de pontuação interna.The boolean values are either true or false depending on the internal score thresholds. Os clientes devem avaliar se utilizam este valor ou se decidem sobre limiares personalizados com base nas suas políticas de conteúdo.Customers should assess whether to use this value or decide on custom thresholds based on their content policies.

Deteção de texto com reconhecimento de caracteres óticos (OCR)Detecting text with Optical Character Recognition (OCR)

A operação de Reconhecimento de Caracteres Óticos (OCR) prevê a presença de conteúdo de texto numa imagem e extrai-o para moderação de texto, entre outros usos.The Optical Character Recognition (OCR) operation predicts the presence of text content in an image and extracts it for text moderation, among other uses. Pode especificar o idioma.You can specify the language. Se não especificar um idioma, a deteção predefini em inglês.If you do not specify a language, the detection defaults to English.

A resposta inclui as seguintes informações:The response includes the following information:

  • O texto original.The original text.
  • Os elementos de texto detetados com as suas notas de confiança.The detected text elements with their confidence scores.

Extrato de exemplo:Example extract:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Detetar rostosDetecting faces

A deteção de rostos ajuda a detetar dados pessoais, como rostos nas imagens.Detecting faces helps to detect personal data such as faces in the images. Deteta potenciais rostos e o número de potenciais rostos em cada imagem.You detect potential faces and the number of potential faces in each image.

Uma resposta inclui esta informação:A response includes this information:

  • Rostos contamFaces count
  • Lista de locais de rostos detetadosList of locations of faces detected

Extrato de exemplo:Example extract:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Criar e gerir listas personalizadasCreating and managing custom lists

Em muitas comunidades online, após os utilizadores carregarem imagens ou outro tipo de conteúdo, os itens ofensivos podem ser partilhados várias vezes ao longo dos dias, semanas e meses seguintes.In many online communities, after users upload images or other type of content, offensive items may get shared multiple times over the following days, weeks, and months. Os custos de digitalização e filtragem repetidas da mesma imagem ou mesmo versões ligeiramente modificadas da imagem de vários locais podem ser dispendiosos e propensos a erros.The costs of repeatedly scanning and filtering out the same image or even slightly modified versions of the image from multiple places can be expensive and error-prone.

Em vez de moderar a mesma imagem várias vezes, adicione as imagens ofensivas à sua lista personalizada de conteúdo bloqueado.Instead of moderating the same image multiple times, you add the offensive images to your custom list of blocked content. Desta forma, o seu sistema de moderação de conteúdos compara as imagens recebidas com as suas listas personalizadas e impede qualquer processamento adicional.That way, your content moderation system compares incoming images against your custom lists and stops any further processing.

Nota

Existe um limite máximo de 5 listas de imagens, sendo que cada lista não pode exceder 10 000 imagens.There is a maximum limit of 5 image lists with each list to not exceed 10,000 images.

O Moderador de Conteúdo fornece uma API completa de Gestão de Listas de Imagem com operações para gerir listas de imagens personalizadas.The Content Moderator provides a complete Image List Management API with operations for managing lists of custom images. Comece com a Consola API listas de imagens e utilize as amostras de código REST API.Start with the Image Lists API Console and use the REST API code samples. Confira também a lista de imagens .NET quickstart se estiver familiarizado com o Visual Studio e C#.Also check out the Image List .NET quickstart if you are familiar with Visual Studio and C#.

Combinando com as suas listas personalizadasMatching against your custom lists

A operação Match permite a correspondência difusa das imagens recebidas com qualquer uma das suas listas personalizadas, criadas e geridas através das operações Lista.The Match operation allows fuzzy matching of incoming images against any of your custom lists, created and managed using the List operations.

Se for encontrada uma correspondência, a operação devolve o identificador e as etiquetas de moderação da imagem compatível.If a match is found, the operation returns the identifier and the moderation tags of the matched image. A resposta inclui esta informação:The response includes this information:

  • Pontuação do jogo (entre 0 e 1)Match score (between 0 and 1)
  • Imagem compatívelMatched image
  • Etiquetas de imagem (atribuídas durante moderação prévia)Image tags (assigned during previous moderation)
  • Etiquetas de imagemImage labels

Extrato de exemplo:Example extract:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Ferramenta de revisãoReview tool

Para casos mais matizados, utilize a ferramenta de Análise de Moderadores de Conteúdo e a sua API para apresentar os resultados e conteúdos de moderação na revisão para os seus moderadores humanos.For more nuanced cases, use the Content Moderator Review tool and its API to surface the moderation results and content in the review for your human moderators. Eles analisam as etiquetas atribuídas à máquina e confirmam as suas decisões finais.They review the machine-assigned tags and confirm their final decisions.

Revisão de imagem para moderadores humanos

Passos seguintesNext steps

Teste a consola API de moderação de imagem e utilize as amostras de código REST API.Test drive the Image Moderation API console and use the REST API code samples. Consulte também revisões, fluxos de trabalho e empregos para aprender a configurar críticas humanas.Also see Reviews, workflows, and jobs to learn how to set up human reviews.