¿Qué es Content Moderator?
La moderación de contenido es un proceso que implica pasos sencillos. Revisión, supervisión e interpretación del contenido antes de que se muestre o se publique para su uso general. Pero moderar una gran cantidad de contenido puede llevar mucho tiempo. Mediante un servicio, como Content Moderator, puede automatizar gran parte de este proceso y configurar la necesidad de revisión manual según corresponda.
El servicio Content Moderator es una API con tecnología de inteligencia artificial que se ejecuta en Azure. El servicio es capaz de examinar el contenido de texto, imágenes y vídeo para detectar posibles aspectos conflictivos, ofensivos o no deseados. Aplica marcas de contenido de forma automática, pero también se integra con la herramienta de revisión. La herramienta de revisión es un entorno de moderador en línea que se usa para facilitar la revisión manual del contenido marcado.
Las API
En Content Moderator hay diferentes tipos de API disponibles. En la tabla siguiente se describe cada una de las API actuales.
| API | Funcionalidad |
|---|---|
| Moderación de texto | Examina el texto en busca de aspectos ofensivos, de sexo explícito o provocativos, obscenos y datos personales. |
| Moderación de imágenes | Examina las imágenes con el fin de determinar si incluyen contenido para adultos o subido de tono. También puede examinar el texto de la imagen mediante el reconocimiento óptico de caracteres (OCR), así como detectar las caras en una imagen. |
| Moderación de vídeo | Busca contenido para adultos o subido de tono en archivos de vídeo. La API devuelve marcadores de tiempo en los que se ha encontrado el contenido. |
| Listas de términos personalizados | Busca en el texto una lista de términos que ha creado. Puede usar la lista para bloquear o permitir el contenido en función de las directivas de contenido de la organización. |
| Listas de imágenes personalizadas | Examina las imágenes en función de las listas de imágenes personalizadas. Puede usar la lista para filtrar el contenido que se repite normalmente y que no quiere volver a clasificar. |
Revisión de contenido
Es posible que todavía se necesite validar la moderación de contenido automatizada. También puede decidir que quiere supervisar cómo funciona el servicio en las tareas de moderación. El servicio Content Moderator también admite un conjunto de API de revisión. Con las API de revisión, puede incluir una persona que haga una revisión manual en el flujo de trabajo. Las personas interactúan con el servicio mediante la herramienta de revisión: una interfaz basada en web que hospeda las revisiones de contenido que los moderadores pueden procesar y supervisar.