機械学習

計算論的神経科学と機械学習

More than 1 year has passed since last update.

@torotoki です。Machine Learning Advent Calendar 2012 7日目は、俗に言う脳科学とよばれる神経科学(neuroscience)の中でも計算論的神経科学(computational neuroscience)という分野です。学問的な入門書ではまず、脳の神経細胞の仕組みや、多々のニューロンの数理モデルを学びますが、そういったものは参考文献の良書にまかせて、計算論的神経科学とは何であるか、ということについて書きたいと思います。

計算論的神経科学とは

神経科学の目標として脳のしくみを理解するというものがありますが、どうしたら本当に脳を理解したと言えるのかは難しい問題です。この計算論的神経科学では、数理モデルを用いて理論的、トップダウン的に推論し、それを実際の脳の構造や実験結果などボトムアップ的知見と対照することにより、脳のしくみを理解しようとする分野です。

計算論的神経科学と機械学習の関連

機械学習と計算論的神経科学の起源はとても類似していて、機械学習は1957年にフランク・ローゼンブラットによって考案されたパーセプトロンが機械学習の起源といわれるのに対し、1960年代末から1970年代初頭にかけてデビッド・マーらによって提案された小脳をパーセプトロンとみなした仮説などの功績により、現代の計算論的神経科学が確立しています。

しかし、近年の「神経科学」は機械学習との乖離が激しいように思います。例えば、SVMを使ってfMRI(脳活動の測定機器)によって出力された結果から何を考えていたか簡単に分類するという論文[Kawmitani+, 2005]は、2005年に発表され、神経科学の分野に大きな反響をよんだそうです。近接する分野であるはずの機械学習から見ると、少し遅く感じます。

計算論的な神経科学の研究者が機械学習をどのくらい認識しているのか自分には分かりませんが、認知神経科学者である坂井克之氏の著書[心の脳科学 (中央新社)] [脳科学の真実 (河出ブックス)]や、この論文の著者である川人光男氏と同じATR脳情報研究所所属の神谷之康氏の記事[脳と心 (ニュートン別冊)]を読むと、機械学習を使う方法が2005年当時いかに神経科学にとって画期的だったかが伝わってきます。

現在では、このような研究はfMRIから見ているものをぼんやりと表示するまで進歩しました。ただ、この論文などを見ていても、機械学習と神経科学間で双方の研究がそれぞれに認知されているとはあまり思えません。[Shinji+, 2011][Yoichi+, 2008]

しかし、機械学習の研究者も神経科学をよく理解しているとはいえないでしょう。一部の研究者を除き、計算論的神経学者が考えたモデルが機械学習に応用した例はほとんど見ることができません。そこで、特に機械学習と同じ数理モデルというアプローチをとり、類似した点が多くありながら独立した分野である計算論的神経科学を学ぶことは、機械学習の研究者でも多くの発見が得られると思います。

ニューロンとは何か

ざっくりとニューロンについて解説します。
脳は、ニューロンとよばれる神経細胞によって成り立っています。脳をモデル化するには、まずニューロンを神経生物学的に知らなければなりません。この神経細胞は、細胞体・樹状突起・軸索・シナプスなどからなる1つの細胞です。
ニューロンの図

画像は「ニューロンの数理モデルと電子回路実装」より引用
http://www.iis.u-tokyo.ac.jp/Labs/engbio/05retreat/05retreat_aihara1.pdf

ニューロンに入力された電気信号は蓄積し、閾値を超えると電気の神経スパイクを出力します(発火した状態)。そして、次のニューロンにそのスパイクをイオンチャネルを通して送ります。なお、ニューロンを含む神経の電気信号の詳細は神経科学の入門書では大抵ざっと説明されているだけなので、より詳細なメカニズムは専門書を読むのもおすすめです。[生体電気信号とはなにか (ブルーバックス)]

実験などでは、ニューロンに電極を刺し人工的に刺激電流を与え人工的にスパイクを発生させるなどして、生物学的なスパイクの仕組みを調べます。

McCulloch-Pitts モデル

ここでは、計算論的神経科学のモデルの主要な1つとして McCulloch-Pitts モデルを紹介します。このモデルはパーセプトロンの典型例として有名で、機械学習のモデルに慣れた人にとって電気信号がどのようにモデル化されているか分かりやすいです。

前節で説明したようにニューロンに電極を刺し、刺激電流を上げていくとその電位が上昇していき、一定の閾値を超えるとスパイクが発生します。このスパイクの電位差はほぼ一定なので、0か1かの出力を取る論理素子としてモデル化されます。これを理論化したのが McCulloch-Pitts モデルで、入力を![equation](http://chart.apis.google.com/chart?cht=tx&chl=x%3D(x_1%2C%20...%2C%20x_n%29)、各入力のシナプスの強さ(荷重, 重み)を![equation](http://chart.apis.google.com/chart?cht=tx&chl=w%3D(w_1%2C%20...%2C%20w_n%29)、発火を表す出力を![equation](http://chart.apis.google.com/chart?cht=tx&chl=\y)、![equation](http://chart.apis.google.com/chart?cht=tx&chl=%5Ctheta%20)を閾値として

![equation](http://chart.apis.google.com/chart?cht=tx&chl=y(t%29%3Dg(%5Csum_%7Bi%3D1%7D%5En%20w_i%20x_i(t%29%20-%20%5Ctheta%29)

ここで、![equation](http://chart.apis.google.com/chart?cht=tx&chl=g(%29)は閾値関数は任意の関数で

![equation](http://chart.apis.google.com/chart?cht=tx&chl=g(u%29%20%3D%20%5Cbegin%7Bcases%7D1%20%26%20if%20u%20%3E%200%5C%5C0%20%26%20otherwise%5Cend%7Bcases%7D)

他にもシグモイド関数などが使われます。

もし個々のスパイクの発生時刻が脳の情報処理にとって重要なら、神経活動をスパイクの時系列レベルで、連続的に扱うモデルが必要です。このような考え方に基づいたモデルは連続時間で扱います。しかし、このパーセプトロンは離散時間であり、ニューロンに例えた解釈をするなら、平均発火周波数(1秒間のスパイク発火の回数)のようなマクロな量として発火を扱っています。

冒頭で言ったとおり最初は入門書でもこのような既存の有名なモデルが羅列されていますが、ほとんどのモデルは連続時間なので、計算論的神経科学で式の形で見覚えがあるのはこのモデルくらいだと思います。

終わり

計算論的神経科学の紹介と、機械学習との関連、実際の有名なモデルを1つ紹介しました。計算論的脳科学おもしろそうと思っていたら広すぎてサーベイで終わる、みたいな感じになってしまいましたが、もしほんの少しでも興味を持ってもらえたときのために上質で分かりやすい入門書を書いておきます。

銅谷賢治氏の講義資料と、「計算神経科学への招待」の草案のセット
http://www.cns.atr.jp/~doya/naist/

理工学系からの脳科学入門, 東大出版
http://www.amazon.co.jp/%E7%90%86%E5%B7%A5%E5%AD%A6%E7%B3%BB%E3%81%8B%E3%82%89%E3%81%AE%E8%84%B3%E7%A7%91%E5%AD%A6%E5%85%A5%E9%96%80-%E5%90%88%E5%8E%9F-%E4%B8%80%E5%B9%B8/dp/4130623044/

脳の計算論(シリーズ脳科学の1作目), 東大出版
http://www.amazon.co.jp/%E8%84%B3%E3%81%AE%E8%A8%88%E7%AE%97%E8%AB%96-%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA%E8%84%B3%E7%A7%91%E5%AD%A6-1-%E7%94%98%E5%88%A9-%E4%BF%8A%E4%B8%80/dp/4130643010/

がおすすめです。正直に言ってこの分野の研究者と面識が1回もなく、入門書は何を使っているか、機械学習の認識など、よく分かっていないのですが、半年くらいのアウトプットとして書いてみました。

参考文献

Yukiyasu K., Frank T. (2005). Decoding the visual and subjective contents of the human brain.

Shinji N., An T. V., Thomas N., Yuval B., Bin Y., Jack L. G. (2011). Reconstructing Visual Experiences from Brain Activity Evoked by Natural Movies.

Yoichi M., Hajime U., Okito Y., Masa-aki S., Yusuke M., Hiroki C. T., Norihiro S., Yukiyasu K. (2008) Visual Image Reconstruction from Human
Brain Activity using a Combination of Multiscale Local Image Decoders.