Lär dig om begrepp för bildmoderering

  • Artikel
  • 3 minuter för att läsa

Använd Content Moderator datorstödda bildmodererings- och granskningsverktyg för att moderera bilder för vuxet och ojämnt innehåll. Sök igenom bilder efter textinnehåll, extrahera texten och identifiera ansikten. Du kan matcha bilder mot anpassade listor och vidta ytterligare åtgärder.

Utvärdera för vuxet och vuxet innehåll

Åtgärden Evaluate returnerar en konfidenspoäng mellan 0 och 1. Den returnerar också booleska data som är lika med sant eller falskt. Dessa värden förutsäger om bilden innehåller potentiellt vuxet eller ojämnt innehåll. När du anropar API:et med din bild (fil eller URL) innehåller det returnerade svaret följande information:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Anteckning

  • isImageAdultClassified representerar den potentiella förekomsten av bilder som kan uppfattas som sexuellt explicita eller ämnade för vuxna.
  • isImageRacyClassified representerar den potentiella förekomsten av bilder som kan uppfattas som sexuellt laddade eller ämnade för vuxna.
  • Poängen är mellan 0 och 1. Ju högre poäng, desto högre förutsäger modellen att kategorin kan vara tillämplig. Den här förhandsversionen förlitar sig på en statistisk modell i stället för manuellt kodade resultat. Vi rekommenderar att du testar med ditt eget innehåll för att avgöra hur varje kategori överensstämmer med dina krav.
  • De booleska värdena är antingen true eller false beroende på de interna poängtrösklarna. Kunder bör bedöma om det här värdet ska användas eller välja anpassade tröskelvärden baserat på deras innehållsprinciper.

Identifiera text med optisk teckenläsning (OCR)

Åtgärden optisk teckenläsning (OCR) förutsäger förekomsten av textinnehåll i en bild och extraherar det för textmoderering, bland annat. Du kan ange språket. Om du inte anger något språk används engelska som standard för identifieringen.

Svaret innehåller följande information:

  • Den ursprungliga texten.
  • De identifierade textelementen med sina förtroendepoäng.

Exempel på extrahering:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Identifiera ansikten

Att identifiera ansikten hjälper till att identifiera personliga data, till exempel ansikten i bilderna. Du identifierar potentiella ansikten och antalet potentiella ansikten i varje bild.

Ett svar innehåller den här informationen:

  • Antal ansikten
  • Lista över platser för ansikten som har identifierats

Exempel på extrahering:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Skapa och hantera anpassade listor

I många onlinegrupper kan stötande objekt delas flera gånger under följande dagar, veckor och månader efter att användare har laddat upp bilder eller annan typ av innehåll. Kostnaderna för att upprepade gånger skanna och filtrera bort samma bild eller till och med något ändrade versioner av bilden från flera platser kan vara dyra och felbenägna.

I stället för att moderera samma bild flera gånger lägger du till stötande bilder i din anpassade lista över blockerat innehåll. På så sätt jämför innehållsmodereringssystemet inkommande bilder med dina anpassade listor och stoppar eventuell ytterligare bearbetning.

Anteckning

Det finns en maxgräns på 5 bildlistor där varje lista inte får överstiga 10 000 bilder.

I Content Moderator finns en fullständig avbildningslista API för hantering åtgärder för att hantera listor med anpassade avbildningar. Börja med api-konsolen för avbildningslistor och använd REST API kodexempel. Ta även en titt på .NET-snabbstarten för avbildningslista om du är bekant med Visual Studio och C#.

Matchning mot dina anpassade listor

Matchningsåtgärden tillåter fuzzy-matchning av inkommande bilder mot någon av dina anpassade listor, som skapas och hanteras med hjälp av liståtgärderna.

Om en matchning hittas returnerar åtgärden identifieraren och modereringstaggarna för den matchade bilden. Svaret innehåller den här informationen:

  • Matchpoäng (mellan 0 och 1)
  • Matchad bild
  • Bildtaggar (tilldelades under tidigare moderering)
  • Bildetiketter

Exempel på extrahering:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Granskningsverktyg

För mer nyanserade fall använder du verktyget Content Moderator Review och dess API för att visa modereringsresultat och innehåll i granskningen för dina mänskliga moderatorer. De granskar de dator tilldelade taggarna och bekräftar sina slutliga beslut.

Bildgranskning för mänskliga moderatorer

Nästa steg

Testkör konsolen för API:et för bildmoderering och använd REST API kodexempel. Se även Granskningar, arbetsflöden och jobb för att lära dig hur du ställer in mänskliga granskningar.