Referência da API do Content ModeratorContent Moderator API reference

Você pode começar a usar as APIs de Content Moderator do Azure das seguintes maneiras:You can get started with Azure Content Moderator APIs in the following ways:

APIs de ModeraçãoModeration APIs

Você pode usar as seguintes APIs do Content Moderator para configurar seus fluxos de trabalho de pós-moderação.You can use the following Content Moderator APIs to set up your post-moderation workflows.

DescriçãoDescription ReferênciaReference
API de moderação de imagemImage Moderation API

Examine imagens e detecte possíveis conteúdos adultos e obscenos usando marcas, pontuações de confiança e outras informações extraídas.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Use essas informações para publicar, rejeitar ou revisar o conteúdo do fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referência da API de moderação de imagemImage Moderation API reference
API de moderação de textoText Moderation API

Examine o conteúdo do texto.Scan text content. Os termos de profanação e os dados pessoais são retornados.Profanity terms and personal data are returned.

Use essas informações para publicar, rejeitar ou revisar o conteúdo do fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referência da API de moderação de textoText Moderation API reference
API de moderação de vídeoVideo Moderation API

Examine vídeos e detectar potencial conteúdo adulto e obsceno.Scan videos and detect potential adult and racy content.

Use essas informações para publicar, rejeitar ou revisar o conteúdo do fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Visão geral da API de moderação vídeoVideo Moderation API overview
API de Gerenciamento de ListaList Management API

Crie e gerencie listas personalizadas de exclusão ou inclusão de imagens e texto.Create and manage custom exclusion or inclusion lists of images and text. Se habilitada, as operações Imagem - Corresponder e Texto - Tela fazem correspondência difusa do conteúdo enviado em suas listas personalizadas.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Para eficiência, você pode ignorar a etapa de moderação com base em aprendizado de máquina.For efficiency, you can skip the machine learning-based moderation step.

Referência de API de gerenciamento de listaList Management API reference

Analisar APIsReview APIs

As APIs de revisão têm os seguintes componentes:The Review APIs have the following components:

DescriçãoDescription ReferênciaReference
TrabalhosJobs

Inicie fluxos de trabalho de moderação de revisão e verificação de conteúdo de imagem e texto.Initiate scan-and-review moderation workflows for both image and text content. Um trabalho de moderação verifica seu conteúdo usando a API de Moderação de Imagem e a API de Moderação de Texto.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Trabalhos de moderação usam fluxos de trabalho definidos e padrão para gerar as análises.Moderation jobs use the defined and default workflows to generate reviews.

Depois que um moderador humano revisou as marcas atribuídas automaticamente e os dados de previsão e enviou uma decisão de moderação de conteúdo, a API de Análise envia todas as informações para o ponto de extremidade de API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referência de trabalhoJob reference
AnálisesReviews

Use a ferramenta de análise para criar análises de texto ou imagem diretamente para moderadores humanos.Use the Review tool to directly create image or text reviews for human moderators.

Depois que um moderador humano revisou as marcas atribuídas automaticamente e os dados de previsão e enviou uma decisão de moderação de conteúdo, a API de Análise envia todas as informações para o ponto de extremidade de API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referência de análiseReview reference
Fluxos de trabalhoWorkflows

Crie, atualize e obtenha detalhes sobre os fluxos de trabalho personalizados que sua equipe cria.Create, update, and get details about the custom workflows that your team creates. Você define fluxos de trabalho usando a ferramenta de análise.You define workflows by using the Review tool.

Normalmente, os fluxos de trabalho usam o Content Moderator, mas também podem usar outras APIs determinadas que estão disponíveis como conectores na ferramenta de análise.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

Referência de fluxo de trabalhoWorkflow reference