什麼是 Azure Content Moderator?

重要

Azure Content Moderator 即將在 2024 年 2 月淘汰,將于 2027 年 2 月淘汰。 它正由 Azure AI 內容保管庫ty 取代,其提供進階 AI 功能和增強的效能。

Azure AI 內容保管庫ty 是一個完整的解決方案,其設計目的是在應用程式和服務中偵測有害的使用者產生和 AI 產生的內容。 Azure AI 內容保管庫ty 適用于許多案例,例如線上市集、遊戲公司、社交訊息平臺、企業媒體公司和 K-12 教育解決方案提供者。 以下是其特性和功能的概觀:

  • 文字和影像偵測 API :使用多個嚴重性層級掃描文字和影像中是否有性內容、暴力、仇恨和自我傷害。
  • 內容保管庫ty Studio :線上工具,其設計目的是使用我們最新的 con帳篷模式ration ML 模型來處理潛在的冒犯性、風險或不想要的內容。 它提供範本和自訂工作流程,讓使用者能夠建置自己的 con帳篷模式ration 系統。
  • 語言支援 :Azure AI 內容保管庫ty 支援超過 100 種語言,並特別訓練英文、德文、日文、西班牙文、法文、義大利文、葡萄牙文和中文。

Azure AI Content 保管庫ty 為您的 con帳篷模式ration 需求提供健全且彈性的解決方案。 藉由從 Content Moderator 切換至 Azure AI 內容保管庫ty,您可以利用最新的工具和技術,以確保您的內容一律會仲裁至您的確切規格。

深入瞭解 Azure AI 內容保管庫, 並探索其如何提升您的 con帳篷模式ration 策略。

Azure Content Moderator 是一項 AI 服務,可讓您處理可能具冒犯性、有風險或不想要的內容。 其中包含 AI 支援的 con帳篷模式ration 服務,可掃描文字、影像和影片,並自動套用內容旗標。

您可能想要將內容篩選軟體建置到您的應用程式中,以符合法規或維護使用者的預期環境。

本檔包含下列文章類型:

  • 快速入門 是入門指示,可引導您向服務提出要求。
  • 操作說明指南 包含以更具體或自訂方式使用服務的指示。
  • 概念提供服務功能和功能的深入說明。

如需更為結構化的方法,請遵循適用於內容仲裁者的訓練模組。

使用的位置

以下是軟體發展人員或小組需要 con帳篷模式ration 服務的一些案例:

  • 線上市場,可管理產品目錄和其他使用者產生的內容。
  • 遊戲公司,可管理使用者產生的遊戲成品和聊天室。
  • 管理使用者新增的圖示、文字和影片的社交傳訊平台。
  • 實作內容集中仲裁的企業媒體公司。
  • K-12 教育解決方案提供者會篩選出不適合學生和授課者的內容。

重要

您無法使用 Content Moderator 來偵測非法的子惡意探索影像。 不過,合格的組織可以使用 PhotoDNA 雲端服務 來篩選這種類型的內容。

包含的內容

Content Moderator 服務包含數個可透過 REST 呼叫和 .NET SDK 提供的 Web 服務 API。

仲裁 API

Content Moderator 服務包含仲裁 API,其會檢查內容是否有可能不適當或令人反感的內容。

block diagram for Content Moderator moderation APIs

下表描述不同類型的仲裁 API。

API 群組 描述
文字仲裁 掃描文字中是否有冒犯性內容、性明確或暗示性內容、粗話和個人資料。
自訂字詞清單 掃描文字與內建字詞的自訂字詞清單。 使用自訂清單,根據您自己的內容原則封鎖或允許內容。
影像仲裁 掃描影像中是否有成人或猥褻內容、使用光學字元辨識 (OCR) 功能偵測影像中的文字,並偵測臉部。
自訂映射清單 針對自訂影像清單掃描影像。 使用自訂影像清單來篩選掉您不想再次分類之常見週期性內容的實例。
影片仲裁 掃描影片中是否有成人或猥褻內容,並傳回上述內容的時間標記。

資料隱私權和安全性

和所有 Azure AI 服務一樣,使用 Content Moderator 服務的開發人員應該要了解 Microsoft 對於客戶資料的政策。 請參閱 Microsoft 信任中心上的 Azure AI 服務頁面以深入了解。

下一步