Справочник по API Content ModeratorContent Moderator API reference

Вы можете приступить к работе с API Content Moderator Azure следующими способами:You can get started with Azure Content Moderator APIs in the following ways:

API модерацииModeration APIs

Ниже перечислены интерфейсы API Content Moderator, которые можно использовать для настройки рабочих процессов модерации.You can use the following Content Moderator APIs to set up your post-moderation workflows.

ОписаниеDescription Справочные материалыReference
API модерации изображенийImage Moderation API

Позволяет проверить изображения на наличие содержимого для взрослых и непристойного характера с использованием тегов, оценки достоверности и других сведений, извлекаемых из содержимого.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Используйте эти сведения для публикации, отклонения или проверки содержимого в рабочем процессе после модерации.Use this information to publish, reject, or review the content in your post-moderation workflow.

Справочник по API для контроля изображенийImage Moderation API reference
API модерации текстаText Moderation API

Позволяет проверить содержимое текста.Scan text content. Возвращаются термины ненормативной лексики и персональные данные.Profanity terms and personal data are returned.

Используйте эти сведения для публикации, отклонения или проверки содержимого в рабочем процессе после модерации.Use this information to publish, reject, or review the content in your post-moderation workflow.

Справочник по API для контроля текстаText Moderation API reference
API модерации видеоVideo Moderation API

Позволяет проверять видео на наличие содержимого для взрослых и содержимого непристойного характера.Scan videos and detect potential adult and racy content.

Используйте эти сведения для публикации, отклонения или проверки содержимого в рабочем процессе после модерации.Use this information to publish, reject, or review the content in your post-moderation workflow.

Обзор API-интерфейса для контроля видеоVideo Moderation API overview
API управления спискамиList Management API

Позволяет создать и настроить пользовательские списки исключения или включения для текста и изображений.Create and manage custom exclusion or inclusion lists of images and text. Если эта функция включена, то операции консолей Image - Match (Изображение — сопоставление) и Text - Screen (Текст — проверка) выполняют нечеткое сопоставление отправленного содержимого с вашими пользовательскими списками.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Для повышения эффективности можно пропустить шаг модерации на основе машинного обучения.For efficiency, you can skip the machine learning-based moderation step.

Справочник по API управления спискамиList Management API reference

Просмотр API-интерфейсовReview APIs

API-интерфейсы проверки имеют следующие компоненты:The Review APIs have the following components:

ОписаниеDescription Справочные материалыReference
ЗаданияJobs

Запуск рабочих процессов модерации "поиск и проверка"для содержимого изображений и текста.Initiate scan-and-review moderation workflows for both image and text content. Задание модерации проверяет содержимое с помощью API модерации изображений и API модерации текста.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Задания модерации используют определенные рабочие процессы и рабочие процессы по умолчанию для создания проверок.Moderation jobs use the defined and default workflows to generate reviews.

После того, как модератор-пользователь проверит автоматически назначенные теги и данные прогноза и отправит решение по модерации содержимого, API проверки отправляет все сведения на конечную точку API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Справочник по заданиямJob reference
ПроверкиReviews

Используйте инструмент проверки для непосредственного создания проверок изображений или текста для модераторов-пользователей.Use the Review tool to directly create image or text reviews for human moderators.

После того, как модератор-пользователь проверит автоматически назначенные теги и данные прогноза и отправит решение по модерации содержимого, API проверки отправляет все сведения на конечную точку API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

Проверить ссылкуReview reference
Рабочие процессыWorkflows

Создание, обновление пользовательских рабочих процессов вашей команды и получение сведений о них.Create, update, and get details about the custom workflows that your team creates. Для определения рабочих процессов используется инструмент проверки.You define workflows by using the Review tool.

Рабочие процессы обычно используются в Content Moderator, но можно также использовать некоторые интерфейсы API, которые доступны в виде соединителей в инструменте проверки.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

Справочник по рабочим процессамWorkflow reference