Dokumentacja interfejsu API usługi Content ModeratorContent Moderator API reference

Możesz zacząć korzystać z interfejsów API usługi Azure Content Moderator w następujący sposób:You can get started with Azure Content Moderator APIs in the following ways:

Interfejsy API moderowaniaModeration APIs

Aby skonfigurować przepływy pracy po moderowaniu, można użyć następujących Content Moderator interfejsów API.You can use the following Content Moderator APIs to set up your post-moderation workflows.

OpisDescription Tematy pomocyReference
Interfejs API moderowania obrazówImage Moderation API

Skanuj obrazy i wykrywaj potencjalną zawartość dla dorosłych i erotycznej przy użyciu tagów, wyników pewności i innych wyodrębnionych informacji.Scan images and detect potential adult and racy content by using tags, confidence scores, and other extracted information.

Te informacje służą do publikowania, odrzucania i przeglądania zawartości w przepływie pracy po moderowaniu.Use this information to publish, reject, or review the content in your post-moderation workflow.

[Dokumentacja interfejsu API moderowania obrazów] (https://westus.dev.cognitive.microsoft.com/docs/services/57cf753a3f9b070c105bd2c1/operations/57cf753a3f9b070868a1f66c "Dokumentacja interfejsu API moderowania obrazów")Image Moderation API reference
Interfejs API moderowania tekstuText Moderation API

Skanuj zawartość tekstową.Scan text content. Zwracane są postanowienia dotyczące niewulgarności i dane osobowe.Profanity terms and personal data are returned.

Te informacje służą do publikowania, odrzucania i przeglądania zawartości w przepływie pracy po moderowaniu.Use this information to publish, reject, or review the content in your post-moderation workflow.

[Dokumentacja interfejsu API moderowania tekstu] (https://westus.dev.cognitive.microsoft.com/docs/services/57cf753a3f9b070c105bd2c1/operations/57cf753a3f9b070868a1f66f "Dokumentacja interfejsu API moderowania tekstu")Text Moderation API reference
Interfejs API moderowania wideoVideo Moderation API

Skanuj wideo i wykrywaj potencjalną zawartość dla dorosłych i erotycznej.Scan videos and detect potential adult and racy content.

Te informacje służą do publikowania, odrzucania i przeglądania zawartości w przepływie pracy po moderowaniu.Use this information to publish, reject, or review the content in your post-moderation workflow.

[Interfejs API moderowania wideo — Omówienie] (video-moderation-api.md "Interfejs API moderowania wideo — Omówienie")Video Moderation API overview
Interfejs API zarządzania listamiList Management API

Twórz i Zarządzaj niestandardowymi listami wykluczeń i obrazów oraz tekstu.Create and manage custom exclusion or inclusion lists of images and text. Jeśli ta funkcja jest włączona, operacje dopasowania obrazu i ekranu tekstowego wykonują rozmyte Dopasowywanie przesłanej zawartości do list niestandardowych.If enabled, the Image - Match and Text - Screen operations do fuzzy matching of the submitted content against your custom lists.

Aby uzyskać sprawność, możesz pominąć etap moderowania oparty na uczeniu maszynowym.For efficiency, you can skip the machine learning-based moderation step.

[Dokumentacja interfejsu API zarządzania listami] (https://westus.dev.cognitive.microsoft.com/docs/services/57cf755e3f9b070c105bd2c2/operations/57cf755e3f9b070868a1f675 "Dokumentacja interfejsu API zarządzania listami")List Management API reference

Przegląd interfejsów APIReview APIs

Interfejsy API przeglądu mają następujące składniki:The Review APIs have the following components:

OpisDescription Tematy pomocyReference
ZadaniaJobs

Inicjuj przepływy pracy do skanowania i weryfikacji dla zawartości obrazów i tekstu.Initiate scan-and-review moderation workflows for both image and text content. Zadanie moderowania skanuje zawartość przy użyciu interfejsu API moderowania obrazów i interfejsu API moderowania tekstu.A moderation job scans your content by using the Image Moderation API and the Text Moderation API. Zadania moderowania używają zdefiniowanych i domyślnych przepływów pracy do generowania przeglądów.Moderation jobs use the defined and default workflows to generate reviews.

Gdy moderator ludzki przejrzał znaczniki i dane prognozowania, a następnie przesłał decyzję o moderowaniu zawartości, interfejs API przeglądu przesyła wszystkie informacje do punktu końcowego interfejsu API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

[Odwołanie do zadania] (https://westus.dev.cognitive.microsoft.com/docs/services/580519463f9b070e5c591178/operations/580519483f9b0709fc47f9c5 "Odwołanie do zadania")Job reference
KontroleReviews

Użyj narzędzia Recenzja, aby bezpośrednio utworzyć przeglądy obrazu lub tekstu dla moderatorów ludzkich.Use the Review tool to directly create image or text reviews for human moderators.

Gdy moderator ludzki przejrzał znaczniki i dane prognozowania, a następnie przesłał decyzję o moderowaniu zawartości, interfejs API przeglądu przesyła wszystkie informacje do punktu końcowego interfejsu API.After a human moderator has reviewed the auto-assigned tags and prediction data and submitted a content moderation decision, the Review API submits all information to your API endpoint.

[Przegląd odwołania] (https://westus.dev.cognitive.microsoft.com/docs/services/580519463f9b070e5c591178/operations/580519483f9b0709fc47f9c4 "Przegląd odwołania")Review reference
Przepływy pracyWorkflows

Twórz, Aktualizuj i pobieraj szczegóły dotyczące niestandardowych przepływów pracy tworzonych przez zespół.Create, update, and get details about the custom workflows that your team creates. Przepływy pracy można definiować za pomocą narzędzia do przeglądu.You define workflows by using the Review tool.

Przepływy pracy zwykle używają Content Moderator, ale mogą również używać niektórych innych interfejsów API, które są dostępne jako łączniki w narzędziu do przeglądu.Workflows typically use Content Moderator, but can also use certain other APIs that are available as connectors in the Review tool.

[Informacje o przepływie pracy] (https://westus.dev.cognitive.microsoft.com/docs/services/580519463f9b070e5c591178/operations/5813b46b3f9b0711b43c4c59 "Informacje o przepływie pracy")Workflow reference