Co je Content Moderator?What is Content Moderator?

Moderování obsahu je proces monitorování potenciálně urážlivého, nežádoucího nebo rizikového materiálu v textu, na obrázcích a ve videu.Content moderation is the process of monitoring text, image, or video content for material that is potentially offensive, undesirable, or risky. Obsah označený příznakem je pak možné skrýt nebo jinak zpracovat a zajistit tak dodržování předpisů nebo zachování zamýšleného prostředí pro uživatele.Flagged content can then be hidden or otherwise addressed in order to comply with regulations or maintain an intended environment for users.

Kde se používáWhere it is used

Následující seznam obsahuje několik ukázkových scénářů, kde je možné Content Moderator použít:The following list shows a few example scenarios where Content Moderator can be used:

  • Online tržiště moderující katalogy produktů a uživatelem generovaný obsahOnline marketplaces moderating product catalogs and user-generated content
  • Herní společnosti moderující uživatelem generované herní artefakty a chatovací místnostiGaming companies moderating user-generated game artifacts and chat rooms
  • Sociální platforma zasílání zpráv moderující obrázky, texty a videa přidaná uživateliSocial messaging platforms moderating images, text, and videos added by their users
  • Podnikové mediální společnosti implementující centralizované moderování jejich obsahuEnterprise media companies implementing centralized content moderation for their content
  • Poskytovatelé řešení vzdělávání K-12 filtrující nevhodný a urážlivý obsah pro studenty a vyučujícíK-12 education solution providers filtering out inappropriate and offensive content for students and educators

Co zahrnujeWhat it includes

Content Moderator se skládá z několika rozhraní API webových služeb a integrovaného nástroje pro kontrolu HITL (human-in-the-loop), které pomáhají moderovat obrázky, text a videa.Content Moderator consists of several web service APIs and a built-in human-in-the-loop review tool that help moderate images, text, and videos.

Blokový diagram Content Moderatoru

Rozhraní APIAPIs

Služba Content Moderator zahrnuje následující rozhraní API:The Content Moderator service includes the following APIs:

  • Rozhraní API pro moderování textu: pomocí tohoto rozhraní API můžete zkontrolovat, zda text obsahuje potenciálně vulgární, explicitní, sugestivní, urážlivé výrazy nebo identifikovatelné osobní údaje (PII).Text moderation API: Use this API to scan text for possible profanity, explicit, suggestive, offensive, and personally identifiable information (PII).
  • Rozhraní API pro správu vlastního seznamu termínů: pomocí tohoto rozhraní API můžete navíc k integrovaným termínům hledat shody s vlastními seznamy termínů.Custom term list API: Use this API to match against custom lists of terms in addition to the built-in terms. Pomocí těchto seznamů můžete zablokovat nebo povolit obsah podle vašich zásad obsahu.Use these lists to block or allow content as per your content policies.
  • Rozhraní API pro moderování obrázků: pomocí tohoto rozhraní API můžete kontrolovat, zda se v obrázcích vyskytuje obsah pro dospělé nebo nevhodný obsah, rozpoznávat text v obrázku pomocí optického rozpoznávání znaků (OCR) a rozpoznávat tváře.Image moderation API: Use this API to scan images for adult and racy content, detect text in images with the Optical Character Recognition (OCR) capability, and detect faces.
  • Rozhraní API pro správu vlastního seznamu obrázků: pomocí tohoto rozhraní API můžete hledat shody s vlastním seznamem obrázků, předem identifikovaným obsahem, který není nutné znovu klasifikovat.Custom image list API: Use this API to match against custom lists of images, pre-identified content that you don’t need to classify again.
  • Rozhraní API moderování videa: pomocí tohoto rozhraní API můžete kontrolovat videa z hlediska obsahu pro dospělé nebo nevhodného obsahu.Video moderation API: Use this API to scan videos for potential adult and racy content.
  • Rozhraní API pro kontrolu: použijte operace úlohy, kontroly, a pracovní postupy, abyste v nástroji pro kontrolu vytvořili a automatizovali pracovní postupy prováděné lidmi.Review APIs: Use the Jobs, Reviews, and Workflow operations to create and automate human-in-the-loop workflows within the review tool.

Nástroj pro kontrolu prováděnou lidmiHuman review tool

Vaše předplatné Content Moderatoru zahrnuje integrovaný nástroj pro kontrolu prováděnou lidmi.Your Content Moderator subscription includes the built-in human review tool. Pomocí výše uvedených rozhraní API pro kontrolu můžete vytvořit kontroly textu, obrázků a videí pro lidské moderátory a jejich konečná rozhodnutí.Use the previously mentioned Review API to create reviews of text, images, and videos for your human moderators to take final decisions.

Nástroj pro kontrolu videa Content Moderatoru

Další krokyNext steps

Na stránce rychlého startu získáte přehled, jak začít s Content Moderatorem.Use the Quickstart to get started with Content Moderator.