Content Moderator
Content Moderator は Microsoft Cognitive Services 製品であり、潜在的に不快なまたは望ましくないコンテンツに対して、テキストと画像のコンピューター支援モデレートを提供し、組み込みの人間によるレビュー ツールで補強します
このコネクタは、次の製品および地域で利用可能です。
| Service | クラス | 地域 |
|---|---|---|
| Logic Apps | 標準 | 以下を除くすべての Logic Apps 地域 : - Azure China の地域 |
| Power Automate | 標準 | 以下を除くすべての Power Automate 地域 : - 21 Vianet が運用する中国のクラウド |
| Power Apps | 標準 | 以下を除くすべての Power Apps 地域 : - 21 Vianet が運用する中国のクラウド |
| 連絡先 | |
|---|---|
| 件名 | Microsoft |
| URL | Microsoft LogicApps サポート Microsoft Power Automate サポート Microsoft Power Apps サポート |
| コネクタ メタデータ | |
|---|---|
| 公開元 | Microsoft |
| Web サイト | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
API を使用してコンテンツをスキャンし、得られたインサイトを使用して、人間のモデレーターが最終決定を下すために行動するか、レビュー ツールで利用できるようにします。
API を使用する場合、画像は最小 128 ピクセル、最大ファイル サイズ 4 MB である必要があります。 テキストの長さは最大 1024 文字です。 この API は現在、米国西部、米国東部 2、米国中西部、西ヨーロッパ、および東南アジアで利用できます。
接続の作成
コネクタは、次の認証タイプをサポートしています:
| 既定 | 接続を作成するためのパラメーター。 | すべてのリージョン | 共有可能 |
既定
適用できるもの: すべての領域
接続を作成するためのパラメーター。
これは共有可能な接続です。 Power App が他のユーザーと共有されている場合、接続も共有されます。 詳細については、キャンバス アプリのコネクタの概要 - Power Apps | Microsoft Docs を参照してください
| 件名 | タイプ | 内容 | 必要 |
|---|---|---|---|
| API キー | securestring | この API の API キー | 真 |
| サイトの URL | 文字列 | ルート サイト URL (例: https://westus.api.cognitive.microsoft.com)。指定されていない場合、サイトの URL は既定で 'https://westus.api.cognitive.microsoft.com' になります。 |
調整制限
| 名前 | 呼び出し | 更新期間 |
|---|---|---|
| 接続ごとの API 呼び出し | 1200 | 60 秒 |
アクション
| モデレート チームでレビュー担当者のレビューを作成 |
作成されたレビューは、チームのレビュー担当者に表示されます。 レビュー担当者がレビューを完了すると、レビューの結果が指定された CallBackEndpoint に投稿されます (例: HTTP POST)。 |
| 不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合 |
100 以上の言語で不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合します。 |
| 指定されたテキスト入力コンテンツの言語を検出 |
この操作を実行すると、指定された入力コンテンツの言語を検出します。 送信されたテキストを構成する主な言語 ISO639-3 コード を返します。 110 以上の言語がサポートされています。 |
| 指定された言語の画像にあるテキストを返す |
指定された言語の画像にあるテキストを返します。 入力に言語が指定されていない場合、検出は既定の英語になります。 |
| 画像にわいせつコンテンツや成人向けコンテンツが含まれていないかどうかを確認 |
わいせつコンテンツや成人向けコンテンツを含む画像の確率を返します。 |
| 画像またはテキスト コンテンツを評価するために、チームで必要なワークフローを実行 |
このエンドポイントに投稿された画像またはテキストコンテンツのジョブ ID が返されます。 提供されたワークフローに対してコンテンツが評価されると、ワークフロー式に基づいてレビューが作成または無視されます。 |
| 画像をユーザー定義の画像リストの 1 つと照合 |
画像をユーザー定義の画像リストの 1 つと曖昧な一致照合。 ユーザー定義の画像リストは、この API を使用して作成および管理できます。 一致する画像の ID とタグを返します。 |
| 画像コンテンツ内の顔を検索する |
画像コンテンツ内の顔を検索します。 |
モデレート チームでレビュー担当者のレビューを作成
作成されたレビューは、チームのレビュー担当者に表示されます。 レビュー担当者がレビューを完了すると、レビューの結果が指定された CallBackEndpoint に投稿されます (例: HTTP POST)。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
チーム名
|
teamName | True | string |
ユーザーのチーム名。 |
|
SubTeam
|
subTeam | string |
レビューを割り当てたいユーザーのチームのサブチーム。 |
|
|
コンテンツ タイプ
|
Type | True | string |
コンテンツの種類。 |
|
コンテンツの確認
|
Content | True | string |
レビューする画像の URL (画像の種類)/テキスト (テキストの種類) のコンテンツ。 |
|
コンテンツ ID
|
ContentId | True | string |
コンテンツ識別子。 |
|
コールバック エンドポイント
|
CallbackEndpoint | string |
オプション コールバック エンドポイント。 |
|
|
キー パラメーター
|
Key | True | string |
ユーザーのキー パラメーター。 |
|
数値パラメーター
|
Value | True | string |
ユーザーの数値パラメーター。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
|
array of string |
不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合
100 以上の言語で不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合します。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
言語
|
language | string |
テキストの言語 (例 英語には「eng」)。 |
|
|
オートコレクト
|
autocorrect | boolean |
オートコレクト テキスト。 |
|
|
個人を特定可能な情報
|
PII | boolean |
テキスト内の個人を特定可能な情報。 |
|
|
リスト ID
|
listId | string |
コンマで区切られたリスト ID。 |
|
|
入力の分類
|
classify | boolean |
入力を分類します。 |
|
|
コンテンツ タイプ
|
Content-Type | True | string |
入力テキストのコンテンツ タイプ。 |
|
テキスト コンテンツ
|
Text Content | True | binary |
自分のテキスト コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
元のテキスト
|
OriginalText | string |
元のテキスト。 |
|
正規化テキスト
|
NormalizedText | string |
正規化テキスト。 |
|
自動修正されたテキスト
|
AutoCorrectedText | string |
自動修正されたテキスト |
|
表現の誤り
|
Misrepresentation | array of string |
誤った表示のテキスト詳細。 |
|
検出された電子メール
|
PII.Email | array of object |
検出された電子メールの詳細。 |
|
検出された電子メール
|
PII.Email.Detected | string |
入力テキスト コンテンツから検出された電子メール アドレス。 |
|
電子メール サブタイプ
|
PII.Email.SubType | string |
検出された電子メール アドレスのサブタイプ。 |
|
メール アドレス
|
PII.Email.Text | string |
入力テキスト コンテンツの電子メール アドレス。 |
|
電子メール- インデックス
|
PII.Email.Index | integer |
入力テキスト コンテンツ内の電子メールアドレスのインデックス (場所)。 |
|
検出された SSN
|
PII.SSN | array of object |
検出された SSN の詳細。 |
|
SSN
|
PII.SSN.Text | string |
検出された SSN。 |
|
SSN インデックス
|
PII.SSN.Index | integer |
入力テキスト コンテンツ内の SSN のインデックス(場所)。 |
|
検出された IP アドレス
|
PII.IPA | array of object |
検出された IP アドレスの詳細。 |
|
IP アドレスのサブタイプ
|
PII.IPA.SubType | string |
検出された IP アドレスのサブタイプ。 |
|
IP アドレス
|
PII.IPA.Text | string |
検出された IP アドレス。 |
|
IP アドレスのインデックス
|
PII.IPA.Index | integer |
入力テキスト コンテンツ内の IP アドレスのインデックス (場所)。 |
|
検出された電話番号
|
PII.Phone | array of object |
検出された電話番号の詳細。 |
|
電話の国番号
|
PII.Phone.CountryCode | string |
検出された電話番号の国番号。 |
|
電話番号
|
PII.Phone.Text | string |
検出された電話番号。 |
|
電話のインデックス
|
PII.Phone.Index | integer |
入力テキスト コンテンツ内の電話番号のインデックス (場所)。 |
|
検出された住所
|
PII.Address | array of object |
検出された住所の詳細。 |
|
住所
|
PII.Address.Text | string |
入力テキスト コンテンツから検出された住所。 |
|
住所- インデックス
|
PII.Address.Index | integer |
入力テキスト コンテンツ内の住所のインデックス (場所)。 |
|
カテゴリー 1 のスコア
|
Classification.Category1.score | double |
テキストのカテゴリー 1 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。 |
|
カテゴリー 2 のスコア
|
Classification.Category2.score | double |
テキストのカテゴリー 2 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。 |
|
カテゴリー 3 のスコア
|
Classification.Category3.score | double |
テキストのカテゴリー 3 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。 |
|
レビュー推奨
|
Classification.ReviewRecommended | boolean |
レビュー推奨フラグの状態。 |
|
テキストの言語
|
Language | string |
入力テキスト コンテンツの主な言語。 |
|
検出された不適切な条件
|
Terms | array of object |
検出された不適切な条件の詳細。 |
|
条件インデックス
|
Terms.Index | integer |
入力テキスト コンテンツ内の検出された不適切な条件のインデックス (場所)。 |
|
条件オリジナル インデックス
|
Terms.OriginalIndex | integer |
入力テキスト コンテンツ内の検出された不適切な条件のオリジナル インデックス (場所)。 |
|
条件リスト ID
|
Terms.ListId | integer |
一致した条件リスト ID。 |
|
検出された条件
|
Terms.Term | string |
検出された不適切な条件。 |
|
追跡 ID
|
TrackingId | string |
一意の Content Moderator トランザクション ID。 |
指定されたテキスト入力コンテンツの言語を検出
この操作を実行すると、指定された入力コンテンツの言語を検出します。 送信されたテキストを構成する主な言語 ISO639-3 コード を返します。 110 以上の言語がサポートされています。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
コンテンツ タイプ
|
Content-Type | True | string |
テキスト コンテンツの種類。 |
|
テキスト コンテンツ
|
Text Content | True | binary |
テキスト コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
検出された言語
|
DetectedLanguage | string |
検出されたテキストの言語。 |
指定された言語の画像にあるテキストを返す
指定された言語の画像にあるテキストを返します。 入力に言語が指定されていない場合、検出は既定の英語になります。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
言語
|
language | True | string |
テキストの言語 (例 英語には「eng」)。 |
|
画像のソース
|
format | True | string |
画像のソースです。画像は含まれているか、URL で参照されています。 |
|
Image
|
Image | True | dynamic |
画像コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
追跡 ID
|
TrackingId | string |
一意の Content Moderator トランザクション ID。 |
|
キャッシュ ID
|
CacheId | string |
キャッシュ ID。 |
|
テキストの言語
|
Language | string |
画像にあるテキストの言語。 |
|
検出されたテキスト
|
Text | string |
画像にあるテキスト。 |
|
検出された候補
|
Candidates | array of object |
画像にある検出されたテキスト候補。 |
|
検出されたテキスト コンテンツの候補
|
Candidates.Text | string |
画像にある検出されたテキスト コンテンツの候補。 |
|
信頼度スコア
|
Candidates.Confidence | number |
検出されたテキスト コンテンツ候補の信頼度スコア。 |
画像にわいせつコンテンツや成人向けコンテンツが含まれていないかどうかを確認
わいせつコンテンツや成人向けコンテンツを含む画像の確率を返します。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
画像のソース
|
format | True | string |
画像のソースです。画像は含まれているか、URL で参照されています。 |
|
Image
|
Image | True | dynamic |
画像コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
成人分類スコア
|
AdultClassificationScore | number |
成人分類の信頼度スコアです。 |
|
成人向けの画像かどうか
|
IsImageAdultClassified | boolean |
画像は成人向けコンテンツに分類されていますか。 |
|
わいせつ分類スコア
|
RacyClassificationScore | number |
わいせつ分類の信頼度スコアです。 |
|
わいせつ分類されている画像かどうか
|
IsImageRacyClassified | boolean |
画像はわいせつコンテンツに分類されていますか。 |
|
追跡 ID
|
TrackingId | string |
一意の Content Moderator トランザクション ID。 |
画像またはテキスト コンテンツを評価するために、チームで必要なワークフローを実行
このエンドポイントに投稿された画像またはテキストコンテンツのジョブ ID が返されます。 提供されたワークフローに対してコンテンツが評価されると、ワークフロー式に基づいてレビューが作成または無視されます。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
チーム名
|
teamName | True | string |
チーム名。 |
|
コンテンツ タイプ
|
ContentType | True | string |
コンテンツの種類。 |
|
コンテンツ ID
|
ContentId | True | string |
コンテンツ識別子。 |
|
ワークフローの選択
|
WorkflowName | True | string |
呼び出したいワークフローを選択します。 |
|
コールバック エンドポイント
|
CallBackEndpoint | string |
コールバック エンドポイント。 |
|
|
コンテンツ値
|
ContentValue | True | string |
仕事を評価するコンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
ジョブ ID
|
JobId | string |
投稿されたコンテンツのジョブ ID。 |
画像をユーザー定義の画像リストの 1 つと照合
画像をユーザー定義の画像リストの 1 つと曖昧な一致照合。 ユーザー定義の画像リストは、この API を使用して作成および管理できます。
一致する画像の ID とタグを返します。
注: 追加と削除が応答に反映される前に、対応する画像リストでインデックスの更新を実行する必要があります。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
リスト ID
|
listId | string |
任意で、照合する ListId を指定します。 指定されていない場合、画像はすべての画像リストと照合されます。 |
|
|
画像のソース
|
format | True | string |
画像のソースです。画像は含まれているか、URL で参照されています。 |
|
Image
|
Image | True | dynamic |
画像コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
追跡 ID
|
TrackingId | string |
一意の Content Moderator トランザクション ID。 |
|
キャッシュ ID
|
CacheId | string |
キャッシュ ID。 |
|
照合
|
IsMatch | boolean |
入力画像リスト ID またはカスタム画像リスト ID と画像が一致しています。 |
|
照合の詳細 - スコア
|
MatchDetails.Score | number |
画像照合の信頼度スコア。 |
|
照合の詳細 - 照合 ID
|
MatchDetails.MatchId | number |
一致したユーザー定義の画像リスト ID。 |
|
照合の詳細 - ソース
|
MatchDetails.Source | string |
一致した画像のソース。 |
|
照合の詳細 - タグ
|
MatchDetails.Tags | array of number |
照合された画像に関連付けられているタグ。 |
|
照合の詳細 - ラベル
|
MatchDetails.Label | string |
一致した画像ラベル。 |
画像コンテンツ内の顔を検索する
画像コンテンツ内の顔を検索します。
パラメーター
| 名前 | キー | 必須 | 型 | 説明 |
|---|---|---|---|---|
|
画像のソース
|
format | True | string |
画像のソースです。画像は含まれているか、URL で参照されています。 |
|
Image
|
Image | True | dynamic |
画像コンテンツ。 |
戻り値
| 名前 | パス | 型 | 説明 |
|---|---|---|---|
|
追跡 ID
|
TrackingId | string |
一意の Content Moderator トランザクション ID。 |
|
キャッシュ ID
|
CacheId | string |
キャッシュ ID。 |
|
フェイス カウント
|
Count | number |
画像で検出された顔の数。 |
|
検出された顔の位置
|
Faces | array of object |
検出された顔の位置。 |
|
下部の位置
|
Faces.Bottom | number |
検出された顔の下部の位置。 |
|
左側の位置
|
Faces.Left | number |
検出された顔の左側の位置。 |
|
右側の位置
|
Faces.Right | number |
検出された顔の右側の位置。 |
|
上部の位置
|
Faces.Top | number |
検出された顔の上部の位置。 |