Vad är Content Moderator?

  • 5 minuter

Con tältläge ration är en process som omfattar enkla steg. Granska, övervaka och tolka innehåll innan det visas eller släpps för allmän förbrukning. Men att moderera en stor mängd innehåll kan vara tidskrävande. Med hjälp av en tjänst, till exempel Content Moderator, kan du automatisera mycket av den här processen och konfigurera behovet av mänsklig granskning efter behov.

Content Moderator-tjänsten är ett API som drivs av artificiell intelligens och körs på Azure. Tjänsten kan skanna text-, bild- och videoinnehåll efter potentiella riskfyllda, stötande eller oönskade aspekter. Den tillämpar innehållsflaggor automatiskt men integreras också med granskningsverktyget. Granskningsverktyget är en online-moderatormiljö som används för att underlätta mänsklig granskning av flaggat innehåll.

API:erna

Det finns olika typer av API:er i Content Moderator. I följande tabell beskrivs var och en av de aktuella API:erna.

API Funktioner
Textmoderering Söker igenom text efter stötande, sexuellt explicit eller suggestiv, svordom och personlig dataaspekt.
Bildmoderering Söker igenom bilder för att avgöra om de innehåller vuxet eller olämpligt innehåll. Det kan också skanna text i bilden med hjälp av optisk teckenigenkänning (OCR) och kan identifiera ansikten i en bild också.
Videomoderering Söker efter vuxet eller olämpligt innehåll i videofiler. API:et returnerar tidsmarkörer där innehållet hittades.
Anpassade termlistor Söker igenom text efter en lista med termer som du har skapat. Du kan använda listan för att blockera eller tillåta innehåll baserat på organisationens innehållsprinciper.
Anpassade avbildningslistor Söker igenom avbildningar mot dina anpassade bildlistor. Du kan använda listan för att filtrera bort vanligt återkommande innehåll som du inte vill klassificera igen.

Innehållsgranskning

Automatiserad kon tältläge ration kan fortfarande kräva validering. Du kan också bestämma att du vill övervaka hur tjänsten fungerar i modereringsuppgifterna. Content Moderator-tjänsten stöder också en uppsättning gransknings-API:er. Med hjälp av gransknings-API:erna kan du ta med en mänsklig granskare i arbetsflödet. Människor interagerar med tjänsten via granskningsverktyget: Ett webbaserat gränssnitt som är värd för de innehållsgranskningar som mänskliga moderatorer kan bearbeta och övervaka.