---
title: Tensorflowで個人サービスにアップロードされた不適切なイラスト画像を検出する
tags: TensorFlow 機械学習
author: kenmaz
slide: false
---
# 要約
エロ・グロ・暴力などの不適切なイラスト画像を検出するための分類器をTensorflowを使って作っています。そのうち、男性器っぽいイラストだけを検出する機能を独立したwebアプリとして公開しました。

> Chinkoチェッカー
> http://chinko-checker.kenmaz.net

## 使い方
使い方を説明したいところですが、いかんせんアプリケーションの性質上、実際の画像を使った説明は困難なので、一部モザイクを掛けて説明します。

まずペンツールを使って以下のような画像を描いてみましょう。
![スクリーンショット 2016-12-13 14.41.01.png](https://qiita-image-store.s3.amazonaws.com/0/8399/8e2eff88-2e81-f2f7-9b56-28d9a1ac790c.png)
全然いやらしい絵ではないですね
もうちょっと修正してみましょう
↓
![スクリーンショット 2016-12-13 14.41.32.png](https://qiita-image-store.s3.amazonaws.com/0/8399/d4830e13-f7a2-1a00-9b52-8171bf381936.png)
ん？
↓
![スクリーンショット 2016-12-13 14.41.39.png](https://qiita-image-store.s3.amazonaws.com/0/8399/54682200-c886-dda1-5699-c25047c80d66.png)
んん！？

とか

これが
![スクリーンショット 2016-12-13 14.43.16.png](https://qiita-image-store.s3.amazonaws.com/0/8399/95e22762-6b7e-f6bc-e56e-e8dc9c8f696a.png)
↓
こうじゃ
![スクリーンショット 2016-12-13 14.42.39.png](https://qiita-image-store.s3.amazonaws.com/0/8399/95e50e63-5cb6-a17e-8508-df94b30604c4.png)

# 開発の背景

パラパラマンガを投稿できる「[AnimeMaker](https://itunes.apple.com/app/apple-store/id405622194?pt=27772&ct=qiita&mt=8)」というサービスを個人で運営していますが、最近エロや暴力的な作品をアップする人が増えてきており、それに伴い一般ユーザからの通報の件数も多くなってきました。多い日で100件を超える日もあります。

![スクリーンショット 2016-12-13 15.20.55.png](https://qiita-image-store.s3.amazonaws.com/0/8399/cfd315eb-6e6a-9fac-7a6b-69904d71b94f.png)

ユーザから通報があると私の携帯にメールが届くので、毎回ブラウザを開き画像が不適切かどうかを自分の目で判断し、NGなら非公開にする、、という作業をこれまでやってきましたが、件数が増えかなり大変な作業になってきました。また毎日毎日、お下品な画像を確認する、という作業をやっていると気分的にも滅入ってくる部分があります。

ということで、以前開発した「[TensorFlowによるももクロメンバー顔認識](http://qiita.com/kenmaz/items/4b60ea00b159b3e00100)」と同じように、投稿された画像を学習して不適切な画像を検出するアプリケーションを作ってみよう、と思い立ちました。

# 詳細

後編では、分類機を作る上で技術的に困難だった点について説明します。
またコードもアップしておく予定です。

# （2016/12/15 01:07追記）
集合知が得られたので貼っておきますね

![スクリーンショット 2016-12-15 1.04.10.png](https://qiita-image-store.s3.amazonaws.com/0/8399/36d22515-db32-addf-03be-03731e8142b3.png)

週末には後編を書きたいところ・・