Referência a API moderador de conteúdoContent Moderator API reference

Pode começar com APIs de Moderador de Conteúdo Azure das seguintes formas:You can get started with Azure Content Moderator APIs in the following ways:

APIs de ModeraçãoModeration APIs

Pode utilizar as seguintes APIs moderadoras de conteúdo para configurar os seus fluxos de trabalho pós-moderação.You can use the following Content Moderator APIs to set up your post-moderation workflows.

DescriçãoDescription ReferênciaReference
API de moderação de imagensImage Moderation API

Digitale imagens e detete potenciais conteúdos adultos e picantes utilizando tags, pontuações de confiança e outras informações extraídas.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Utilize estas informações para publicar, rejeitar ou rever o conteúdo no seu fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referência da API de moderação de imagemImage Moderation API reference
API de moderação de textosText Moderation API

Digitalizar conteúdo de texto.Scan text content. Os termos de profanação e os dados pessoais são devolvidos.Profanity terms and personal data are returned.

Utilize estas informações para publicar, rejeitar ou rever o conteúdo no seu fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Referência da API de moderação de textoText Moderation API reference
API de moderação de vídeoVideo Moderation API

Scaneie vídeos e detete potenciais conteúdos adultos e picantes.Scan videos and detect potential adult and racy content.

Utilize estas informações para publicar, rejeitar ou rever o conteúdo no seu fluxo de trabalho pós-moderação.Use this information to publish, reject, or review the content in your post-moderation workflow.

Visão geral da API da moderação de vídeoVideo Moderation API overview
API de Gestão de ListasList Management API

Crie e gere listas de exclusão ou inclusão personalizadas de imagens e texto.Create and manage custom exclusion or inclusion lists of images and text. Se ativado, as operações de Imagem - Jogo e Texto - Ecrã combinam com o conteúdo submetido com as suas listas personalizadas.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Para eficiência, pode saltar o passo de moderação baseado em machine learning.For efficiency, you can skip the machine learning-based moderation step.

Referência da API de Gestão de ListasList Management API reference

APIs de revisãoReview APIs

As APIs de revisão têm os seguintes componentes:The Review APIs have the following components:

DescriçãoDescription ReferênciaReference
TarefasJobs

Inicie fluxos de trabalho de moderação de digitalização e revisão para conteúdos de imagem e texto.Initiate scan-and-review moderation workflows for both image and text content. Um trabalho de moderação digitaliza o seu conteúdo utilizando a API de Moderação de Imagem e a API de Moderação de Texto.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Os trabalhos de moderação utilizam os fluxos de trabalho definidos e predefinidos para gerar comentários.Moderation jobs use the defined and default workflows to generate reviews.

Depois de um moderador humano ter revisto as etiquetas e dados de previsão atribuídos automaticamente e ter submetido uma decisão de moderação de conteúdo, a API de revisão submete todas as informações ao seu ponto final da API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referência de empregoJob reference
RevisõesReviews

Utilize a ferramenta Review para criar diretamente críticas de imagem ou texto para moderadores humanos.Use the Review tool to directly create image or text reviews for human moderators.

Depois de um moderador humano ter revisto as etiquetas e dados de previsão atribuídos automaticamente e ter submetido uma decisão de moderação de conteúdo, a API de revisão submete todas as informações ao seu ponto final da API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Referência de revisãoReview reference
Fluxos de trabalhoWorkflows

Crie, atualize e obtenha detalhes sobre os fluxos de trabalho personalizados que a sua equipa cria.Create, update, and get details about the custom workflows that your team creates. Define os fluxos de trabalho utilizando a ferramenta 'Revisão'.You define workflows by using the Review tool.

Os fluxos de trabalho normalmente usam o Moderador de Conteúdo, mas também podem usar outras APIs que estão disponíveis como conectores na ferramenta Review.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

Referência do fluxo de trabalhoWorkflow reference