Informations de référence des API de Content ModeratorContent Moderator API reference

Vous pouvez commencer à utiliser les API Azure Content Moderator comme suit :You can get started with Azure Content Moderator APIs in the following ways:

API de modérationModeration APIs

Vous pouvez utiliser les API suivantes de Content Moderator pour configurer votre flux de travail après modération.You can use the following Content Moderator APIs to set up your post-moderation workflows.

DescriptionDescription Informations de référenceReference
API Modération des imagesImage Moderation API

Analysez des images et détectez tout contenu potentiellement pour adultes ou choquant à l’aide de balises, d’indices de confiance et d’autres informations extraites.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Utilisez ces informations pour publier, rejeter ou réviser le contenu de votre flux de travail après modération.Use this information to publish, reject, or review the content in your post-moderation workflow.

Référence de l’API Modération des imagesImage Moderation API reference
API Modération du texteText Moderation API

Analysez le contenu du texte.Scan text content. Les vulgarités et les données personnelles sont retournées.Profanity terms and personal data are returned.

Utilisez ces informations pour publier, rejeter ou réviser le contenu de votre flux de travail après modération.Use this information to publish, reject, or review the content in your post-moderation workflow.

Référence de l’API Modération du texteText Moderation API reference
API Modération des vidéosVideo Moderation API

Analysez des vidéos et détectez tout contenu potentiellement pour adultes ou choquant.Scan videos and detect potential adult and racy content.

Utilisez ces informations pour publier, rejeter ou réviser le contenu de votre flux de travail après modération.Use this information to publish, reject, or review the content in your post-moderation workflow.

Présentation de l’API Modération des vidéosVideo Moderation API overview
API Gestion des listesList Management API

Créez et gérez des listes d’exclusions ou d’inclusions personnalisées de texte et d’images.Create and manage custom exclusion or inclusion lists of images and text. Si elles sont activées, les opérations Image - Match (Image - Correspondance) et Text - Screen (Texte - Détecter) effectuent une correspondance approximative du contenu envoyé par rapport à vos listes personnalisées.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Pour plus d’efficacité, vous pouvez ignorer l’étape de modération basée sur l’apprentissage automatique.For efficiency, you can skip the machine learning-based moderation step.

Référence de l’API Gestion des listesList Management API reference

Consultation des APIReview APIs

Les composants des API de révision sont les suivants :The Review APIs have the following components:

DescriptionDescription Informations de référenceReference
TâchesJobs

Lancez des flux de travail de modération par analyse et révision du contenu de texte et d’image.Initiate scan-and-review moderation workflows for both image and text content. Un travail de modération analyse votre contenu à l’aide de l’API Modération des images ou de l’API Modération du texte.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Les travaux de modération utilisent les flux de travail définis et par défaut pour générer des révisions.Moderation jobs use the defined and default workflows to generate reviews.

Une fois qu’un modérateur a examiné les balises affectées automatiquement ainsi que les données de prédiction et soumis une décision en matière de modération du contenu, l’API Review (Révision) soumet toutes les informations à votre point de terminaison d’API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Référence des tâchesJob reference
RévisionsReviews

Utilisez l’outil de révision pour créer directement des révisions d’image ou de texte pour les modérateurs.Use the Review tool to directly create image or text reviews for human moderators.

Une fois qu’un modérateur a examiné les balises affectées automatiquement ainsi que les données de prédiction et soumis une décision en matière de modération du contenu, l’API Review (Révision) soumet toutes les informations à votre point de terminaison d’API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Référence des révisionsReview reference
Flux de travailWorkflows

Créez et mettez à jour des flux de travail personnalisés, et obtenez des détails sur ceux qui sont créés par votre équipe.Create, update, and get details about the custom workflows that your team creates. Définissez des flux de travail à l’aide de l’outil de révision.You define workflows by using the Review tool.

Les flux de travail utilisent généralement Content Moderator, mais ils peuvent également utiliser d’autres API qui sont disponibles sous forme de connecteurs dans l’outil de révision.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

Référence des flux de travailWorkflow reference