Co je obsahu moderátora?What is Content Moderator?

Přerušování obsahu je proces monitorování možné urážlivé, nežádoucím a rizikové obsahu.Content moderation is the process of monitoring for possible offensive, undesirable, and risky content. Moderované obsah může být bitové kopie, text a videa.The moderated content can be images, text, and videos.

Kde se používáWhere it is used

Následující seznam obsahuje několik ukázkových scénářů, kde se používá moderátora obsahu:The following list shows a few example scenarios where Content Moderator is used:

  • Online tržiště moderování katalogy produktů a uživatelem generovaný obsahOnline marketplaces moderating product catalogs and user generated content
  • Herní společností moderování uživatele vytvořila herní artefaktů a chatovací místnostiGaming companies moderating user generated game artifacts and chat rooms
  • Sociální platformy zasílání zpráv moderování bitové kopie, text a videa přidal uživatelůSocial messaging platform moderating images, text, and videos added by their users
  • Enterprise média společností implementace centralizované přerušování obsahu pro obsahEnterprise media companies implementing centralized content moderation for their content
  • Poskytovatelé řešení K-12 education filtrování chybný a urážlivé obsahu pro studenty a lektorůmK-12 education solution providers filtering bad and offensive content for students and educators

Její součástíWhat it includes

Obsahu moderátora se skládá z několika webové rozhraní API a integrované lidské v the smyčku zkontrolujte nástroje, který pomůže střední obrázky, text a videa.Content Moderator consists of several web service APIs and a built-in human-in-the-loop review tool that help moderate images, text, and videos.

Obsahu moderátora Blokový diagram

Rozhraní APIAPIs

Obsahu moderátora zahrnuje následující rozhraní API:Content Moderator includes the following APIs:

  • Text přerušování rozhraní API: používat toto rozhraní API ke kontrole text možné vulgárnost explicitní, sugestivní, urážlivé a identifikovatelné osobní informace (PII).Text moderation API: Use this API to scan text for possible profanity, explicit, suggestive, offensive, and personally identifiable information (PII).
  • Vlastní termín seznamu rozhraní API: Toto rozhraní API použijte k porovnání vlastní seznamy podmínky kromě předdefinovaných podmínky.Custom term list API: Use this API to match against custom lists of terms in addition to the built-in terms. Využijte tyto seznamy blokovat nebo povolit obsah podle obsahu zásad.Use these lists to block or allow content as per your content policies.
  • Obrázek přerušování rozhraní API: Toto rozhraní API použijte ke kontrole bitové kopie na obsah pro dospělé a zájem, detekovat text v bitové kopie pomocí funkce rozpoznávání optické rozpoznávání znaků (znaků) a zjistit řezy.Image moderation API: Use this API to scan images for adult and racy content, detect text in images with the Optical Character Recognition (OCR) capability, and detect faces.
  • Vlastní image seznamu rozhraní API: Toto rozhraní API použijte k porovnání vlastních seznamů obrázků, předem identifikovaných obsah, který je nebudete muset znovu klasifikovat.Custom image list API: Use this API to match against custom lists of images, pre-identified content that you don’t need to classify again.
  • Video přerušování rozhraní API: používat toto rozhraní API ke kontrole videa pro potenciální obsah pro dospělé a zájem.Video moderation API: Use this API to scan videos for potential adult and racy content.
  • Zkontrolujte rozhraní API: použití úlohy, recenze, a pracovního postupu na vytvoření a automatizovat pracovní postupy lidské v the smyčky v rámci operací Zkontrolujte nástroj.Review APIs: Use the Jobs, Reviews, and Workflow operations to create and automate human-in-the-loop workflows within the review tool.

Nástroj pro recenze prováděné lidmiHuman review tool

Vaše předplatné obsahu moderátora zahrnuje předdefinovaná lidské Zkontrolujte nástroj.Your Content Moderator subscription includes the built-in human review tool. Pomocí výše uvedených zkontrolujte API můžete vytvořit recenze text, obrázky a videa pro vaše lidského moderátorů přijímat konečné rozhodnutí.Use the previously mentioned Review API to create reviews of text, images, and videos for your human moderators to take final decisions.

Zkontrolujte nástroj obsahu moderátora video

Další postupNext steps

Použití rychlý Start začít pracovat s moderátora obsahu.Use the Quickstart to get started with Content Moderator.