您现在访问的是微软AZURE全球版技术文档网站,若需要访问由世纪互联运营的MICROSOFT AZURE中国区技术文档网站,请访问 https://docs.azure.cn.

内容审查器 API 参考Content Moderator API reference

你可以开始使用 Azure 内容审查器 Api 中的以下方法:You can get started with Azure Content Moderator APIs in the following ways:

审查 APIModeration APIs

可以使用以下内容审查器 API 设置审查后工作流。You can use the following Content Moderator APIs to set up your post-moderation workflows.

描述Description 参考Reference
图像审查 APIImage Moderation API

通过使用标记、置信度分数和其他提取的信息扫描图像并检测潜在的成人和不雅内容。Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

使用此信息发布、拒绝或查看审查后工作流中的内容。Use this information to publish, reject, or review the content in your post-moderation workflow.

图像审查 API 参考Image Moderation API reference
文本审查 APIText Moderation API

扫描文本内容。Scan text content. 返回不雅用语和个人数据。Profanity terms and personal data are returned.

使用此信息发布、拒绝或查看审查后工作流中的内容。Use this information to publish, reject, or review the content in your post-moderation workflow.

文本审查 API 参考Text Moderation API reference
视频审查 APIVideo Moderation API

扫描视频并检测潜在的成人和不雅内容。Scan videos and detect potential adult and racy content.

使用此信息发布、拒绝或查看审查后工作流中的内容。Use this information to publish, reject, or review the content in your post-moderation workflow.

视频审查 API 概述Video Moderation API overview
列表管理 APIList Management API

创建并管理图像和文本的自定义排除或包含列表。Create and manage custom exclusion or inclusion lists of images and text. 如果启用,则“图像 - 匹配” 和“文本 - 屏幕” 操作会将提交的内容与你的自定义列表进行模糊匹配。If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

为了提高效率,可以跳过基于机器学习的审查步骤。For efficiency, you can skip the machine learning-based moderation step.

列表管理 API 参考List Management API reference

查看 APIReview APIs

查看 Api 具有以下组件:The Review APIs have the following components:

描述Description 参考Reference
作业Jobs

为图像和文本内容启动扫描并评审审查工作流。Initiate scan-and-review moderation workflows for both image and text content. 审查作业通过使用图像审查 API 和文本审查 API 扫描你的内容。A moderation job scans your content by using the Image Moderation API and the Text Moderation API. 审查作业使用已定义和默认的工作流来生成评审。Moderation jobs use the defined and default workflows to generate reviews.

在人工审查器审查了自动分配的标记和预测数据并提交了内容审核决定后,评审 API 会将所有信息提交到 API 终结点。After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

作业参考Job reference
评审Reviews

使用“评审”工具可直接为人工审查器创建图像或文本评审。Use the Review tool to directly create image or text reviews for human moderators.

在人工审查器审查了自动分配的标记和预测数据并提交了内容审核决定后,评审 API 会将所有信息提交到 API 终结点。After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

评审参考Review reference
工作流Workflows

创建、更新和获取有关团队创建的自定义工作流的详细信息。Create, update, and get details about the custom workflows that your team creates. 可以使用“评审”工具定义工作流。You define workflows by using the Review tool.

工作流通常使用内容审查器,但也可以使用“评审”工具中可用作连接器的某些其他 API。Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

工作流参考Workflow reference