はじめに
ニューラルネットワークには第一次、第二次、第三次という三つのニューロブームがあった。
第一次ニューロブームは、1958年ロゼンブラットによる、単純パーセプトロンの発見であった。
しかしその後、XOR問題*1という、単純パーセプトロンで解けない問題が発見され、ブームは去った。
しかし、のちに多層パーセプトロンを用いるとXOR問題が解決されることがわかった。
第二次ニューロブームは、1986年にでビッドラメルハートらの「誤差逆伝播法」により多層パーセプトロンの学習が高速化されたことで起きた。しかし、そのブームも学習データの不足から、精度が出ずに廃れていった。
第三次ニューロブームは、2000年代後半にビッグデータの入手が容易になり、コンピュータの性能自体も向上してきたときに、起きた。2007年にアンドリュー・ング氏がディープラーニングという言葉を用いた。2012年にはジェフリー・ヒントン教授らのグループが画像認識のコンテストで、技術的ブレークスルーを起こした。同年2012年にはまた、猫の特徴抽出をディープラーニングでおこなった、グーグルの猫が有名になった。2016年には、デミス・ハサビス率いるディープマインド社が囲碁のプロ棋士に勝ったり、イアン・グッドフェローがGANモデルを考案したり、最近のニューラルネットワークの発展は目覚しい。
第三次ニューロブーム以前の年代表
| 年号 | 技術 | 人物 |
|---|---|---|
| 1943 | EMBODIMENTS OF MIND提案 | W. MCCLLOCH W.PITTS |
| 1949 | Hebb's rule提案 | D.Hebb |
| 1951 | 世界初のニューラルネットマシン作成 | M. Minsky |
| 1958 | パターン認識の可能性提示 | F. Rosenblatt |
| 1969 | 神経回路論 | 甘利教授 |
| 1969 | コグ二トロン神経回路論 | 福島教授 |
| 1969 | パーセプトロンの限界提示 | M. Minsky |
| 1969〜80 | AIの冬第1期 | ------ |
| 1984 | Hopfield model提案 | J. Hopfield |
| 1986 | Boltzman Machine提案 | Hinton & Sejnowski |
| 1986 | Back Propagation紹介 | Rumelhart & McClelland |
| 1987〜93 | AIの冬第２期 | ------ |
| 2006 | オートエンコーダ提案 | G. Hinton |
| 2012 | 高精度ディープラーニング作成 | G. Hinton |
参考
「ディープラーニング、ビッグデータ、機械学習あるいはその心理学」 著 浅川
http://business.nikkeibp.co.jp/article/bigdata/20150419/280107/?P=1