LoginSignup
13

More than 5 years have passed since last update.

Tensorflowで個人サービスにアップロードされた不適切なイラスト画像を検出する

Last updated at Posted at 2016-12-13

要約

エロ・グロ・暴力などの不適切なイラスト画像を検出するための分類器をTensorflowを使って作っています。そのうち、男性器っぽいイラストだけを検出する機能を独立したwebアプリとして公開しました。

Chinkoチェッカー
http://chinko-checker.kenmaz.net

使い方

使い方を説明したいところですが、いかんせんアプリケーションの性質上、実際の画像を使った説明は困難なので、一部モザイクを掛けて説明します。

まずペンツールを使って以下のような画像を描いてみましょう。
スクリーンショット 2016-12-13 14.41.01.png
全然いやらしい絵ではないですね
もうちょっと修正してみましょう

スクリーンショット 2016-12-13 14.41.32.png
ん?

スクリーンショット 2016-12-13 14.41.39.png
んん!?

とか

これが
スクリーンショット 2016-12-13 14.43.16.png

こうじゃ
スクリーンショット 2016-12-13 14.42.39.png

開発の背景

パラパラマンガを投稿できる「AnimeMaker」というサービスを個人で運営していますが、最近エロや暴力的な作品をアップする人が増えてきており、それに伴い一般ユーザからの通報の件数も多くなってきました。多い日で100件を超える日もあります。

スクリーンショット 2016-12-13 15.20.55.png

ユーザから通報があると私の携帯にメールが届くので、毎回ブラウザを開き画像が不適切かどうかを自分の目で判断し、NGなら非公開にする、、という作業をこれまでやってきましたが、件数が増えかなり大変な作業になってきました。また毎日毎日、お下品な画像を確認する、という作業をやっていると気分的にも滅入ってくる部分があります。

ということで、以前開発した「TensorFlowによるももクロメンバー顔認識」と同じように、投稿された画像を学習して不適切な画像を検出するアプリケーションを作ってみよう、と思い立ちました。

詳細

後編では、分類機を作る上で技術的に困難だった点について説明します。
またコードもアップしておく予定です。

(2016/12/15 01:07追記)

集合知が得られたので貼っておきますね

スクリーンショット 2016-12-15 1.04.10.png

週末には後編を書きたいところ・・

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
13