Обзоры модерации содержимого, рабочие процессы и рабочие местаContent moderation reviews, workflows, and jobs

Модератор содержимого сочетает в себе режимную помощь с помощью машины с возможностями «человека в петле» для создания оптимального процесса модерации для реальных сценариев.Content Moderator combines machine-assisted moderation with human-in-the-loop capabilities to create an optimal moderation process for real-world scenarios. Он делает это с помощью облачного инструмента обзора.It does this through the cloud-based Review tool. В этом руководстве вы узнаете об основных концепциях инструмента Обзора: обзоры, рабочие процессы и рабочие места.In this guide, you will learn about the core concepts of the Review tool: reviews, workflows, and jobs.

ПроверкиReviews

В обзоре содержимое загружается в инструмент «Обзор» и отображается под вкладкой «Обзор». Отсюда пользователи могут изменять прикладные теги и применять свои собственные пользовательские теги по мере необходимости.In a review, content is uploaded to the Review tool and appears under the Review tab. From here, users can alter the applied tags and apply their own custom tags as appropriate. Когда пользователь отправляет отзыв, результаты отправляются в указанную конечную точку обратного вызова, и содержимое удаляется с сайта.When a user submits a review, the results are sent to a specified callback endpoint, and the content is removed from the site.

Обзор инструмент веб-сайт открыт в браузере, на вкладке Обзор

Ознакомьтесь с руководством по инструменту «Обзор», чтобы начать создавать отзывы, или посмотрите руководство REST API, чтобы узнать, как это сделать программно.See the Review tool guide to get started creating reviews, or see the REST API guide to learn how to do so programmatically.

Рабочие процессыWorkflows

Рабочий процесс — это облачный настраиваемый фильтр для содержимого.A workflow is a cloud-based customized filter for content. Рабочие процессы могут подключаться к различным службам для фильтрации содержимого различными способами, а затем принять соответствующие меры.Workflows can connect to a variety of services to filter content in different ways and then take the appropriate action. С разъемом модератора содержимого рабочий процесс может автоматически применять теги модерации и создавать отзывы с представленным контентом.With the Content Moderator connector, a workflow can automatically apply moderation tags and create reviews with submitted content.

Просмотр рабочих процессовView workflows

Для просмотра существующих рабочих процессов перейдите в инструмент «Обзор» и выберитерабочие процессы настроек. > To view your existing workflows, go to the Review tool and select Settings > Workflows.

Рабочий процесс по умолчанию

Рабочие процессы можно полностью охарактеризовать как строки JSON, что делает их доступными программно.Workflows can be completely described as JSON strings, which makes them accessible programmatically. Если вы выберете опцию «Отобрачье» для рабочего процесса, а затем выберите вкладку JSON, вы увидите выражение JSON следующее:If you select the Edit option for your workflow and then select the JSON tab, you'll see a JSON expression like the following:

{
    "Type": "Logic",
    "If": {
        "ConnectorName": "moderator",
        "OutputName": "isAdult",
        "Operator": "eq",
        "Value": "true",
        "Type": "Condition"
        },
    "Then": {
    "Perform": [
    {
        "Name": "createreview",
        "CallbackEndpoint": null,
        "Tags": []
    }
    ],
    "Type": "Actions"
    }
}

Ознакомьтесь с руководством по использованию инструментов «Обзор», чтобы начать создавать рабочие процессы, или смотрите руководство REST API, чтобы узнать, как это сделать программно.See the Review tool guide to get started creating and using workflows, or see the REST API guide to learn how to do so programmatically.

ЗаданияJobs

Задание модерации служит своего рода оберткой для функциональности модерации содержимого, рабочих процессов и обзоров.A moderation job serves as a kind of wrapper for the functionality of content moderation, workflows and reviews. Задание сканирует содержимое с помощью API модерации изображения Модератора содержимого или API модерации текста, а затем проверяет его на указанном рабочем процессе.The job scans your content using the Content Moderator image moderation API or text moderation API and then checks it against the designated workflow. На основе результатов рабочего процесса он может или не может создать рецензию на содержимое в инструменте «Обзор».Based on the workflow results, it may or may not create a review for the content in the Review tool. В то время как обзоры и рабочие процессы могут быть созданы и настроены с их соответствующими API, API задания позволяет получить подробный отчет всего процесса (который может быть отправлен в указанную конечную точку обратного вызова).While both reviews and workflows can be created and configured with their respective APIs, the job API allows you to obtain a detailed report of the entire process (which can be sent to a specified callback endpoint).

Смотрите руководство REST API, чтобы начать использовать рабочие места.See the REST API guide to get started using jobs.

Дальнейшие действияNext steps