¿Qué es Content Moderator?What is Content Moderator?

La moderación de contenido es el proceso de supervisión de posibles contenidos ofensivos, indeseables y peligrosos.Content moderation is the process of monitoring for possible offensive, undesirable, and risky content. El contenido moderado puede estar compuesto de imágenes, texto y vídeos.The moderated content can be images, text, and videos.

Dónde se usaWhere it is used

En la lista siguiente se muestran algunos casos de ejemplo donde se usa Content Moderator:The following list shows a few example scenarios where Content Moderator is used:

  • Mercados en línea que moderan catálogos de productos y contenido que haya creado el usuario.Online marketplaces moderating product catalogs and user generated content
  • Empresas de juegos moderan los artefactos del juego que crea el usuario y las salas de chat.Gaming companies moderating user generated game artifacts and chat rooms
  • Plataformas de mensajería de las redes sociales que moderan las imágenes, el texto y los vídeos que agregan los usuarios.Social messaging platform moderating images, text, and videos added by their users
  • Empresas multimedia que implementan la moderación de contenido centralizada en a su propio contenido.Enterprise media companies implementing centralized content moderation for their content
  • Proveedores de soluciones educativas de tipo K-12 que filtran el contenido malo y ofensivo para los estudiantes y educadores.K-12 education solution providers filtering bad and offensive content for students and educators

Qué incluyeWhat it includes

Content Moderator consta de varias API de servicios web y una herramienta integrada de revisión administrada por personas, que ayuda a moderar imágenes, texto y vídeos.Content Moderator consists of several web service APIs and a built-in human-in-the-loop review tool that help moderate images, text, and videos.

Diagrama de bloques de Content Moderator

API existentesAPIs

Content Moderator incluye las siguientes API:Content Moderator includes the following APIs:

  • API de moderación de texto: use esta API para analizar el texto en busca de posibles insultos, contenido explícito, sugestivo, ofensivo e información de identificación personal (PII).Text moderation API: Use this API to scan text for possible profanity, explicit, suggestive, offensive, and personally identifiable information (PII).
  • API de lista de términos personalizada: use esta API para hacer coincidir las listas de términos personalizadas con los términos integrados.Custom term list API: Use this API to match against custom lists of terms in addition to the built-in terms. Use estas listas para bloquear o permitir contenido según sus directivas de contenido.Use these lists to block or allow content as per your content policies.
  • API de moderación de imágenes: use esta API para analizar imágenes en busca de contenido para adultos o inapropiado, detectar texto en imágenes con la funcionalidad de reconocimiento óptico de caracteres (OCR) y detectar rostros.Image moderation API: Use this API to scan images for adult and racy content, detect text in images with the Optical Character Recognition (OCR) capability, and detect faces.
  • API de lista de imágenes personalizada: use esta API para hacer coincidir las listas personalizadas de imágenes con el contenido previamente identificado que no necesite clasificar de nuevo.Custom image list API: Use this API to match against custom lists of images, pre-identified content that you don’t need to classify again.
  • API de moderación de vídeos: use esta API para analizar vídeos en busca de contenido adulto e inapropiado.Video moderation API: Use this API to scan videos for potential adult and racy content.
  • API de revisión: use las operaciones Trabajos, Revisiones y Flujo de trabajo para crear y automatizar los flujos de trabajo administrados por personas, dentro de la herramienta de revisión.Review APIs: Use the Jobs, Reviews, and Workflow operations to create and automate human-in-the-loop workflows within the review tool.

Herramienta de revisión humanaHuman review tool

Su suscripción a Content Moderator incluye la herramienta de revisión humana integrada.Your Content Moderator subscription includes the built-in human review tool. Use la API de revisión que se mencionó anteriormente para crear revisiones de texto, imágenes y vídeos, para que sus moderadores puedan tomar las decisiones finales.Use the previously mentioned Review API to create reviews of text, images, and videos for your human moderators to take final decisions.

Herramienta de revisión de vídeos de Content Moderator

Pasos siguientesNext steps

Use la guía de inicio rápido para empezar a usar Content Moderator.Use the Quickstart to get started with Content Moderator.