Referencia de API de Content ModeratorContent Moderator API reference

Puede empezar a trabajar con las API de Azure Content Moderator de las siguientes maneras:You can get started with Azure Content Moderator APIs in the following ways:

API de moderaciónModeration APIs

Puede usar las siguientes API de Content Moderator para configurar los flujos de trabajo posteriores a la moderación.You can use the following Content Moderator APIs to set up your post-moderation workflows.

DESCRIPCIÓNDescription ReferenciaReference
Image Moderation APIImage Moderation API

Examine imágenes y detecte posible contenido para adultos o explícito mediante etiquetas, puntuaciones de confianza y otra información extraída.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Use esta información para publicar, rechazar o revisar el contenido del flujo de trabajo posterior a la moderación.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referencia de Image Moderation APIImage Moderation API reference
Text Moderation APIText Moderation API

Examine contenido de texto.Scan text content. Las blasfemias y los datos personales se devuelven.Profanity terms and personal data are returned.

Use esta información para publicar, rechazar o revisar el contenido del flujo de trabajo posterior a la moderación.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referencia de Text Moderation APIText Moderation API reference
Video Moderation APIVideo Moderation API

Examine vídeos y detecte posible contenido para adultos y explícito.Scan videos and detect potential adult and racy content.

Use esta información para publicar, rechazar o revisar el contenido del flujo de trabajo posterior a la moderación.Use this information to publish, reject, or review the content in your post-moderation workflow.

Introducción a Video Moderation APIVideo Moderation API overview
List Management APIList Management API

Cree y administre listas personalizadas de exclusión o inclusión de texto e imágenes.Create and manage custom exclusion or inclusion lists of images and text. Si están habilitadas, las operaciones Image - Match (Imagen: coincidir) y Text - Screen (Texto: pantalla) buscan coincidencias parciales del contenido enviado en las listas personalizadas.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Para mejorar la eficacia, puede omitir el paso de moderación basado en el aprendizaje automático.For efficiency, you can skip the machine learning-based moderation step.

Referencia de List Management APIList Management API reference

Revisión de las APIReview APIs

Review APIs tienen los siguientes componentes:The Review APIs have the following components:

DESCRIPCIÓNDescription ReferenciaReference
TrabajosJobs

Inicie flujos de trabajo de examen y revisión para el contenido de imagen y texto.Initiate scan-and-review moderation workflows for both image and text content. Un trabajo de moderación examina el contenido mediante Image Moderation API y Text Moderation API.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Los trabajos de moderación usan los flujos de trabajo definidos y predeterminados para generar revisiones.Moderation jobs use the defined and default workflows to generate reviews.

Después de que un moderador humano ha revisado las etiquetas asignadas automáticamente y los datos de predicción y de que ha enviado una decisión de moderación de contenido, Review API envía toda la información al punto de conexión de API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referencia de trabajosJob reference
RevisionesReviews

Use la herramienta de revisión para crear directamente revisiones de texto o imagen para moderadores humanos.Use the Review tool to directly create image or text reviews for human moderators.

Después de que un moderador humano ha revisado las etiquetas asignadas automáticamente y los datos de predicción y de que ha enviado una decisión de moderación de contenido, Review API envía toda la información al punto de conexión de API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referencia de revisionesReview reference
Flujos de trabajoWorkflows

Cree, actualice y obtenga información detallada sobre los flujos de trabajo personalizados que crea el equipo.Create, update, and get details about the custom workflows that your team creates. Los flujos de trabajo se definen mediante la herramienta de revisión.You define workflows by using the Review tool.

Normalmente, los flujos de trabajo usan Content Moderator, pero también pueden usar algunas otras API que están disponibles como conectores en la herramienta de revisión.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

Referencia de flujos de trabajoWorkflow reference