Content Moderationでコンテンツチェック

Alibaba Cloudには、画像や動画、テキストといったコンテンツに対してモデレートするサービスとして、Content Moderationがあります。

Content Moderationとは

画像や動画、テキストなどのマルチメディアオブジェクトコンテンツに含まれる内容が、公序良俗に反するものかどうかリスクを即座に検出します。
この検出については、Alibaba Cloudだけでなく、Taobao、Alipayなどで蓄積されたセキュリティテクノロジーと経験に基づいて提供されています。

検出される内容

APIを利用して以下の内容が検出されます。

• 画像
  • ポルノコンテンツ
  • テロリストのコンテンツ
  • 広告違反
  • QRコード
  • 望ましくないシーン
    • 画像にコンテンツが無い
    • ピクチャーinピクチャー
    • 喫煙
    • 運転中のライブ配信など
  • ロゴ
• ビデオ
  • ポルノコンテンツ
  • テロリストのコンテンツ
  • 広告違反
  • 望ましくないシーン
    • 黒画面
    • 白画面など
  • ロゴ
  • 音声違反
• テキストスパム対策
  • 広告
  • テロリストのコンテンツ
  • 乱用
  • ポルノコンテンツ
  • スパム
  • 無意味な内容
  • 禁止されているコンテンツ
  • 望ましくないシーン
    • 拝金主義
    • 富の誇示
    • 偶像崇拝
    • 破壊的感情
    • 否定的な誘惑に関連するコンテンツなど
  • カスタム用語

料金

料金は従量課金制です。
最初にContent Moderationのサービスを有効にする必要があります。
画像、動画、テキストのそれぞれの課金情報はこちら。
リージョンは、Asia Pacific SE1(Singapore)とChina East2(Shanghai)の２つです。
また、画像や動画の中でもアダルトコンテンツ、暴力やテロリストのコンテンツ、OCR(画像のみ)、ロゴといったカテゴリで料金が分かれているので注意が必要です。

SDK

Content ModerationのAPIを呼び出すために、SDKが用意されています。
注意点として、SDKではポルノ検出、テロリストコンテンツ検出、OCR、ロゴ検出などの画像モデレーション機能は1つのAPIにカプセル化されています。

SDK対応言語

Alibaba Cloudの公式としてSDKが用意されている言語は下記の5つです。

• Java
  • Java 1.6以降
• Pyhton
  • Python2.xまたはPython3.x
• PHP
  • PHP5.5以降
• Go
  • Go 1.10.0以降
• .NET
  • .NET Framework 4.5以降または.NET Standars2.0以降
  • C# 4.0以降
    SDKのサンプルコードや事前準備に利用するコマンドなど、ドキュメントに記載があるので利用開始は難しくないかと思います。
    (対応言語のバージョンの古さは気になりますが・・・)

サードパーティー製のSDKとしてC#、C++、Node.js、Go、Python3.5があるとのこと。
どの様な内容か時間があるときにでもSDKの内容を確認してみたいと思います。

パラメータ

APIをコールする際に設定するパラメータですが、共通パラメータ(Commonパラメータ)と各操作固有のパラメータがあります。
共通パラメータの仕様はこちら。

エンドポイント

APIのエンドポイントによって、サポートされている機能(操作)が異なります。
内部エンドポイントを利用する場合は、インターネット経由のAPIコールと比較すると時間が短縮されます。
エンドポイントとサポート一覧。

QPS制限

1秒あたり最大50件のリクエストまで対応可能。
過剰な数のリクエストを送信すると、スロットリングが実装されるので注意が必要です。

まとめ

日本リージョンでの機能展開はまだの様ですが、サンプルプログラムやSDKなどが用意されているのでコンテンツチェックに利用しやすいのではないかと思います。