とほほ
タイトル記載のとおり、
生涯初、日付ガチ間違い「Qiita夏祭り2020_パソナテック」に出したかった。。。
なんとなく、金曜日、金曜日は実際は7/17ですが。。。までだと思ってた。
とほほ、なので、
以下、示し方、構成を変えて、端的に記事を書きます。
深層学習の説明性
深層学習において、何がどうなっているかわからない、という指摘がある。
それに対して、Grad-CAMという技術が、結構前からあり、
説明性に寄与している。
大前提として、このGrad-CAMというのは、わかり易いと思います。基本、肯定的に考えています。
しかし、
この深層学習の判断根拠を示すGrad-CAMに対して、人が気持ち（感情？？）をのせすぎる、思い入れを加えると
めちゃくちゃになりますというアンチパターンです。
例１
深層学習がlakeside(湖畔）と判断した部位は、以下。
なるほど。。。
- 湖畔の写真の撮り方の定番の、(a)手前の木の枝、(b)向こう岸、を完璧におさえている。
- 特に、(a)の手前の木の捉え方が、水面を背景にした部分を抑えており、これで、 湖畔(度)があがる。
って、気持ちを入れられますが、
ここまでに示したのは、dock(ドック）と判断する根拠を示したものです。
正しく、lakeside(湖畔）は、以下。
ここで、説明を加えると、アンチにはまるので。。。
例２
深層学習がtaddy(日本語ではトラ猫）と判断した部位は、以下。
なるほど。。。
- 猫の特徴は、一言で言えば目にある。もう少し、詳しく言うと、目自体とそのまわりの模様。
- あと、他の動物との差として注目するのが、胸元の模様。
って、気持ちを入れられますが、
ここまでに示したのは、doormat(ドアマット）と判断する根拠を示したものです。
正しく、この場合、taddyなのでtaddy(日本語ではトラ猫）は、以下。
ここで、説明を加えると、アンチにはまるので。。。
しかし、taddyは、目の上に「M」という文字があり、これが特徴なので、
正しい、捉え方です。念のため。
作業方法
ここで記載のGrad-CAMは、
実行コードは、以下のサイトのものを利用。
https://github.com/eclique/keras-gradcam
以下なども参考になると思いますが、
以下のコードは、issuesとかの状態も見られたほうがいいような気もします。
ちょっと、自分の使い方か？、変なところがあるような気がしないでもないです。
https://github.com/sicara/tf-explain/blob/master/examples/core/grad_cam.py
まとめ
「参加ボタン」を押したら、参加できませんってなったのが、衝撃でした！
いやでも、過ぎてから気づいて良かった。直前とかだと、かえってより悲しかっただろう。
それはさておき、深層学習の説明性をこれからもみていきましょう。もっと、明確なものが出てくると思います。
| 何のアンチを示したのか（再掲） |
|---|
| 深層学習の判断根拠を示すGrad-CAMに対して、人が気持ち（感情？？）をのせすぎる、思い入れを加えるとめちゃくちゃになります |