Meer informatie over concepten voor afbeeldingsbeheer

  • Artikel
  • 3 minuten om te lezen

Gebruik Content Moderator machine-assisted image moderation en Review tool om afbeeldingen te controleren op erotische en racy inhoud. Scan afbeeldingen op tekstinhoud en extraheren die tekst en detecteer gezichten. U kunt afbeeldingen matchen met aangepaste lijsten en verdere actie ondernemen.

Evalueren op erotische en racy inhoud

De bewerking Evaluate retourneert een betrouwbaarheidsscore tussen 0 en 1. Het retourneert ook Booleaanse gegevens die gelijk zijn aan waar of onwaar. Deze waarden voorspellen of de afbeelding mogelijk erotische of racy inhoud bevat. Wanneer u de API aanroept met uw afbeelding (bestand of URL), bevat het geretourneerde antwoord de volgende informatie:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Notitie

  • isImageAdultClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als seksueel expliciet of erotisch kunnen worden beschouwd.
  • isImageRacyClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als suggestief of voor volwassenen kunnen worden beschouwd.
  • De scores liggen tussen 0 en 1. Hoe hoger de score, hoe hoger het model is om te voorspellen dat de categorie van toepassing kan zijn. Deze preview is afhankelijk van een statistisch model in plaats van handmatig gecodeerde resultaten. We raden u aan om te testen met uw eigen inhoud om te bepalen hoe elke categorie aan uw vereisten voldoet.
  • De Booleaanse waarden zijn waar of onwaar, afhankelijk van de interne scoredrempels. Klanten moeten beoordelen of ze deze waarde willen gebruiken of aangepaste drempelwaarden willen bepalen op basis van hun inhoudsbeleid.

Tekst detecteren met OCR (Optical Character Recognition)

De bewerking Optical Character Recognition (OCR) voorspelt de aanwezigheid van tekstinhoud in een afbeelding en extraheert deze voor onder andere tekstbeheer. U kunt de taal opgeven. Als u geen taal opgeeft, wordt de detectie standaard ingesteld op Engels.

Het antwoord bevat de volgende informatie:

  • De oorspronkelijke tekst.
  • De gedetecteerde tekstelementen met hun betrouwbaarheidsscores.

Voorbeelduitpakken:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Gezichten detecteren

Het detecteren van gezichten helpt bij het detecteren van persoonsgegevens, zoals gezichten in de afbeeldingen. U detecteert potentiële gezichten en het aantal potentiële gezichten in elke afbeelding.

Een antwoord bevat deze informatie:

  • Aantal gezichten
  • Lijst met gedetecteerde locaties van gezichten

Voorbeelduitpakken:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Aangepaste lijsten maken en beheren

In veel online community's kunnen aanstootgevende items meerdere keren worden gedeeld in de volgende dagen, weken en maanden nadat gebruikers afbeeldingen of andere soorten inhoud hebben geüpload. De kosten voor het herhaaldelijk scannen en filteren van dezelfde afbeelding of zelfs enigszins gewijzigde versies van de afbeelding vanaf meerdere locaties kunnen duur en foutgevoelig zijn.

In plaats van dezelfde afbeelding meerdere keren te modereren, voegt u de aanstootgevende afbeeldingen toe aan uw aangepaste lijst met geblokkeerde inhoud. Op die manier vergelijkt uw systeem voor inhoudsbeheer binnenkomende afbeeldingen met uw aangepaste lijsten en stopt u verdere verwerking.

Notitie

Er is een maximumlimiet van 5 afbeeldingslijsten waarbij elke lijst niet meer dan 10.000 afbeeldingen mag bevatten.

De Content Moderator biedt een volledige lijst met Beheer API met bewerkingen voor het beheren van lijsten met aangepaste afbeeldingen. Begin met de API-console Afbeeldingenlijsten en gebruik de REST API codevoorbeelden. Bekijk ook de snelstart .NET image list als u bekend bent met Visual Studio en C#.

Overeenkomen met uw aangepaste lijsten

Met de bewerking Match kunt u binnenkomende afbeeldingen fuzzy afstemmen op een van uw aangepaste lijsten, gemaakt en beheerd met behulp van de lijstbewerkingen.

Als er een overeenkomst wordt gevonden, retourneert de bewerking de id en de moderatietags van de overeenkomende afbeelding. Het antwoord bevat deze informatie:

  • Matchscore (tussen 0 en 1)
  • Overeenkomende afbeelding
  • Afbeeldingstags (toegewezen tijdens vorige moderatie)
  • Afbeeldingslabels

Voorbeelduitpakken:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Beoordelingsprogramma

Gebruik voor meer genuanceerde gevallen het hulpprogramma Content Moderator Review en de API om de beoordelingsresultaten en inhoud in de beoordeling voor uw menselijke moderators weer te geven. Ze controleren de door de machine toegewezen tags en bevestigen hun uiteindelijke beslissingen.

Beoordeling van afbeelding voor menselijke beoordelaars

Volgende stappen

Test de console afbeeldingsbeheer-API en gebruik de REST API codevoorbeelden. Zie ook Beoordelingen, werkstromen en taken voor meer informatie over het instellen van menselijke beoordelingen.