Azure Content Moderator APIの概要

Azure Content Moderator API は、ユーザが入力したテキスト、画像、ビデオに不適切な内容、が含まれているかどうかを確認できるサービスです。一言で言うと検閲と言ったところでしょうか、ユーザに好き勝手に投稿させないように事前にコグニティブサービスによるチェックを入れて登録したい時等に利用できます。Content Moderatorはtextとimage、videoに分けられます。具体的には以下のようになります。

Image

Evaluate（racy or adultなコンテントを含む画像を返します。racyは卑猥と言う意味です。）
Find Faces （画像を入力すると顔の位置をjson形式で返してくれます）
Match （事前に登録しておいた画像とマッチする画像を選びタグ（「アダルト」、「武器」、「子供」等）を返却します）
OCR（指定された言語での言葉が画像に見つかればそれを返します。デフォルト言語は英語です。）

text

Detect Language(指定された文字列の言語を判定します)
Screen(短文の解析。公式サイトには「下品な言葉を探索する」とあります)

ちなみに送信方法はすべてPOSTです。

上記のうち、今回はimageを試してみたいと思います。
まずは公式サイトのContent Moderator レビューツールで試してみます。

なんとかサインインすると以下のサイトに遷移するので適宜入力してcreate teamします

うまくいくと以下のページが表示されます。Try ⇒ imageを選択します

sample imageをクリックしてサンプル画像を頂きました。
sample4を拝借。卑猥すぎます。

その後、Choose file(s)を押して先ほどの画像を選択してsubmitします。

成功です。click hereを押して次に進みます

結果発表
卑猥でもエロくもないと判定されました。

エロい！と言われたいので別の画像を。

「アダルトでないがエロい」と判定されました！