概要
1年間SNNに関する研究してきての回顧ログです。
SNNは、簡単にではあるものの神経工学に関する知識が必要となります。そのため、神経工学やSTDPを理解、実装するために参考にした資料や論文を「この順番で読むと良さそう」的な形で紹介していきます。
1. メカ屋のための脳科学入門-脳をリバースエンジニアリングする-
神経工学の入門書。何より普通に面白い本(主観)。最初に読むと良さそう。
ニューロンの基本的な動きや、脳内での情報表現方法がわかりやすく書いてあります。
2. 続 メカ屋のための脳科学入門-記憶・学習/意識 編-
先ほどの本の続編。
ヘブ則やSTDP、長期増強や長期抑制についても説明があります。
2.5 すごい学生のScrapbox
京大から東大院に言ってるすごい人のメモ。
見つけたのがかなり後半だったこともあり、私は参考にできたかったもののドメイン知識の概形は綺麗に捕らえられている。
分からない用語の取っ掛かりとしては便利そう。
3. スパイキングニューラルネットワークにおける深層学習
SNNについてのサーベイ論文。
様々な手法について日本語で記されている。
4. SNNのGithub
理論は、スパイキングニューラルネットワークにおける深層学習の4.2 二層 SNN における教師なし学習例が使用されている。また、私の論文冒頭の先行研究に記しているUnsupervised learning of digit recognition using spike-timing-dependent plasticityを一部実装したものでもある。
5. +α
分かりづらくて調べたものたち
レートコーディング or テンポラルコーディング
おばあちゃん細胞表現 or 分散表現
脳内情報表現に関する一般的な命題
日本語の論文だが、論点が時折ずれていて読みづらいので用語の意味理解などにどうぞ
Philosophy of the Spike: Rate-Based vs. Spike-Based Theories of the Brain
レートコーディングとテンポラルコーディングの違いやお互いの利点がよくわかる論文
ニューロンモデル
Which Model to Use for Cortical Spiking Neurons?
様々なニューロンについて批判している述べている論文
本論文で最良と言われているIzhikevich modelは、作者の作ったモデルなのでそういった意図がある論文とも言えるの参考程度に。
これからスパイキングニューラルネットワークを始める人へ1 : ニューロンのモデルについて
かなり簡単にニューロンモデルやSNNについてまとめられているブログ。ただ途中で筆を投げている。
Pythonによるスパイキングニューラルネットワークの実装
Izhikevich modelをpythonで実装している。