Azure Content Moderator란?

  • 아티클

Important

Azure Content Moderator는 2024년 2월에 더 이상 사용되지 않으며 2027년 2월에 사용 중지됩니다. 고급 AI 기능과 향상된 성능을 제공하는 Azure AI 콘텐츠 보안으로 바뀌고 있습니다.

Azure AI 콘텐츠 안전은 애플리케이션 및 서비스에서 유해한 사용자 생성 콘텐츠 및 AI 생성 콘텐츠를 탐지하도록 설계된 포괄적인 솔루션입니다. Azure AI 콘텐츠 안전은 온라인 마켓플레이스, 게임 회사, 소셜 메시징 플랫폼, 엔터프라이즈 미디어 회사, 초등 및 중등 교육 솔루션 공급자와 같은 많은 시나리오에 적합합니다. 기능에 대한 개요는 다음과 같습니다.

  • 텍스트 및 이미지 감지 API: 텍스트 및 이미지에서 여러 심각도 수준의 성적 콘텐츠, 폭력, 혐오, 자해 관련 내용이 있는지 검사합니다.
  • 콘텐츠 안전 스튜디오: 최신 콘텐츠 조정 ML 모델을 사용하여 잠재적으로 공격적이거나 위험하거나 바람직하지 않은 콘텐츠를 처리하도록 설계된 온라인 도구입니다. 템플릿과 사용자 지정된 워크플로를 제공하므로 사용자는 자신만의 콘텐츠 조정 시스템을 선택하고 구축할 수 있습니다.
  • 언어 지원: Azure AI 콘텐츠 안전은 100개 이상의 언어를 지원하며 영어, 독일어, 일본어, 스페인어, 프랑스어, 이탈리아어, 포르투갈어, 중국어로 특별히 학습됩니다.

Azure AI 콘텐츠 안전은 콘텐츠 조정 요구 사항에 대한 강력하고 유연한 솔루션을 제공합니다. Content Moderator에서 Azure AI 콘텐츠 안전으로 전환하면 최신 도구와 기술을 활용하여 콘텐츠가 항상 정확한 사양으로 조정되도록 할 수 있습니다.

Azure AI 콘텐츠 안전에 대해 자세히 알아보고 콘텐츠 조정 전략을 향상하는 방법을 알아봅니다.

Azure Content Moderator는 공격을 받을 수 있거나 위험한 또는 바람직하지 않은 콘텐츠를 처리할 수 있는 AI 서비스입니다. 텍스트, 이미지 및 비디오를 검사하고 콘텐츠 플래그를 자동으로 적용하는 AI 지원 콘텐츠 조정 서비스가 포함됩니다.

앱에 콘텐츠 필터링 소프트웨어를 빌드하여 규정을 준수하거나 사용자에게 의도된 환경을 유지 관리할 수 있습니다.

이 설명서에는 다음과 같은 문서 유형이 포함되어 있습니다.

  • 빠른 시작은 서비스에 대한 요청을 수행하는 과정을 안내하는 시작 지침입니다.
  • 방법 가이드에는 보다 구체적이거나 사용자 지정된 방식으로 서비스를 사용하기 위한 지침이 포함되어 있습니다.
  • 개념은 서비스 기능에 대한 심층적인 설명을 제공합니다.

보다 체계적인 접근 방식을 원하시면 Content Moderator 학습 모듈을 따르세요.

사용 위치

다음은 소프트웨어 개발자나 팀이 콘텐츠 조정 서비스를 요구하는 몇 가지 시나리오입니다.

  • 제품 카탈로그 및 기타 사용자 생성 콘텐츠를 조정하는 온라인 마켓플레이스.
  • 사용자 생성 게임 아티팩트 및 대화방을 조정하는 게임 회사.
  • 사용자가 추가한 이미지, 텍스트 및 비디오를 조정하는 소셜 메시징 플랫폼.
  • 중앙에서 콘텐츠를 조정하도록 구현하는 엔터프라이즈 미디어 회사.
  • 학생 및 교육자에게 부적절한 콘텐츠를 필터링하는 K-12 교육 솔루션 공급자.

Important

Content Moderator를 사용하여 불법 아동 착취 이미지를 검색할 수 없습니다. 그러나 자격이 있는 조직은 PhotoDNA 클라우드 서비스를 사용하여 이러한 종류의 콘텐츠를 차단할 수 있습니다.

포함되는 항목

Content Moderator 서비스는 REST 호출 및 .NET SDK 둘 다를 통해 사용 가능한 몇 가지 웹 서비스 API로 구성됩니다.

중재 API

Content Moderator 서비스에는 콘텐츠에 잠재적으로 부적절하거나 불쾌한 자료가 있는지 확인하는 중재 API가 포함되어 있습니다.

block diagram for Content Moderator moderation APIs

다음 표에서는 다양한 유형의 중재 API를 설명합니다.

API 그룹 설명
텍스트 조정 텍스트에서 불쾌감을 주는 콘텐츠, 외설적이거나 선정적인 콘텐츠, 불경한 언어 및 개인 데이터를 검사합니다.
사용자 지정 용어 목록 기본 제공 용어와 함께 사용자 지정 용어 목록에 대해 텍스트를 검사합니다. 사용자 지정 콘텐츠 정책에 따라 사용자 지정 목록을 사용하여 콘텐츠를 차단하거나 허용합니다.
이미지 조정 이미지에서 성인 또는 외설 콘텐츠를 검사하고, OCR(광학 문자 인식) 기능을 사용하여 이미지에서 텍스트를 감지하고, 얼굴을 감지합니다.
사용자 지정 이미지 목록 사용자 지정 이미지 목록을 기준으로 이미지를 검사합니다. 사용자 지정 이미지 목록을 사용하여 다시 분류하지 않으려는 일반적인 반복 콘텐츠의 인스턴스를 필터링합니다.
비디오 조정 비디오에서 성인 또는 외설 콘텐츠를 검사하고 언급된 콘텐츠의 시간 마커를 반환합니다.

데이터 개인 정보 보호 및 보안

모든 Azure AI 서비스와 마찬가지로 Content Moderator 서비스를 사용하는 개발자는 고객 데이터에 대한 Microsoft의 정책을 알고 있어야 합니다. 자세한 내용은 Microsoft 보안 센터의 Azure AI 서비스 페이지를 참조하세요.

다음 단계