你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

什么是 Azure 内容审查器？

  • 项目

重要

Azure 内容审查器将于 2024 年 2 月弃用，并将于 2027 年 2 月停用。 它即将被 Azure AI 内容安全取代，后者提供高级 AI 功能和增强的性能。

Azure AI 内容安全是一个全面的解决方案，旨在检测应用程序和服务中用户生成的和 AI 生成的有害内容。 Azure AI 内容安全适用于在线市场、游戏公司、社交消息平台、企业媒体公司和 K-12 教育解决方案提供商等多种场景。 下面是其特性和功能的概述：

  • 文本和图像检测 API：扫描文本和图像中是否存在多个严重级别的性内容、暴力内容、仇恨内容和自残内容。
  • 内容安全工作室：一个在线工具，旨在使用最新的内容审核 ML 模型处理可能存在的冒犯性内容、风险性内容或不良内容。 它提供模板和自定义工作流，让用户能够构建自己的内容审核系统。
  • 语言支持：Azure AI 内容安全支持 100 多种语言，针对英语、德语、日语、西班牙语、法语、意大利语、葡萄牙语和中文进行了专门训练。

Azure AI 内容安全针对内容审核需求提供了强大且灵活的解决方案。 通过从内容审查器切换到 Azure AI 内容安全，你可以利用最新的工具和技术来确保内容始终按照确切规范进行审核。

详细了解 Azure AI 内容安全，了解它如何提升内容审核策略。

Azure 内容审查器是一种 AI 服务，可用于处理可能的冒犯性、危险或不可取内容。 它包括 AI 支持的内容审核服务，该服务扫描文本、图像和视频，并自动应用内容标志。

你可能想在应用中内置内容筛选软件，以符合法规或维护用户的预期环境。

本文档包含以下文章类型：

  • 快速入门介绍了入门说明，指导您完成向服务发出请求。
  • 操作指南包含以更具体的方式或自定义方式使用服务的说明。
  • 概念对服务的功能和特性进行了深入说明。

如果需要更加结构化的方法，请遵循适用于内容审查器的培训模块。

使用场合

下面是软件开发人员或团队需要使用内容审核服务的一些场景：

  • 在联机市场中审查产品目录和其他用户生成的内容。
  • 在游戏公司中审查用户生成的游戏项目和聊天室。
  • 在社交消息平台中审查用户添加的图像、文本和视频。
  • 企业媒体公司对其内容进行集中式审查。
  • K-12 教育解决方案提供商为学生和教师筛选掉不当的内容。

重要

不能使用内容审查器检测非法儿童剥削图像。 不过，合格组织可以使用 PhotoDNA 云服务来筛查此类内容。

组成部分

内容审查器服务包含多个可以通过 REST 调用和 .NET SDK 使用的 Web 服务 API。

审查 API

内容审查器服务包括了审查 API，这些 API 检查内容中是否存在可能不适当或令人反感的材料。

block diagram for Content Moderator moderation APIs

下表介绍了各种类型的审查 API。

API 组 说明
文本审查 扫描文本中是否存在冒犯性内容、明确的或暗示性的色情内容、不雅内容和个人数据。
自定义术语列表 扫描文本中是否存在自定义术语列表以及内置的术语。 根据你自己的内容策略，使用自定义列表阻止或允许内容。
图像审查 扫描图像中是否存在成人内容或不雅内容，通过光学字符识别 (OCR) 功能检测图像中的文本，以及检测人脸。
自定义图像列表 针对自定义图像列表对图像进行扫描。 使用自定义图像列表筛选掉常常反复出现的内容的实例，这些实例不需再次分类。
视频审查 扫描视频中是否存在成人内容或挑逗性内容，并针对上述内容返回时间标记。

数据隐私和安全性

与所有 Azure AI 服务一样，使用内容审查器服务的开发人员应该了解 Microsoft 针对客户数据的政策。 请参阅 Microsoft 信任中心的“Azure AI 服务”页面来了解详细信息。

后续步骤