前回のその4までは、ニューロンの入力にかける「重み」は固定されたままでした。
これに、シンプルな学習則である「ヘブ則」を導入し、ネットワークに与える影響を見ていきます。
以下の通りに何回かに分けて解説しますが、今回はその5になります。
その1 -セル・オートマトンとは？-
その2 -セルの並べ方-
その3 -ニューロンの配置-
その4 -恒常性と馴化-
その5 -ヘブ則の導入-
ネットワークにヘブ則を導入
ヘブ則は、以下のようなシナプスの変化で表されます。
①シナプス前細胞が発火
②それによりシナプス後細胞が発火
③シナプスが増強される
シナプスの強度はニューロンの「重み」に相当します。
今回のネットワークには、以下の式に基づきヘブ則を導入します。
重みの変化量 = 学習係数 × 入力(0 or 1) × 出力(0 or 1)
今回のニューロンは入力、出力ともに0か1なので、両者ともに1のときのみ重みは変化することになります。
これはシナプス前細胞の発火によるシナプス後細胞の発火に対応します。
学習係数は0.01や0.001などの小さな数で、学習の速さを決定する固定された値です。
以下の動画は、このようなヘブ則を導入した結果です。
ヘブ側なしの場合と有りの場合を比較しています。
学習係数は0.001、投射ニューロンの割合は25%、抑制性ニューロンの割合は20%に設定しました。
ヘブ側の導入前は同じパターンが再び現れることはありませんでしたが、今回は十分時間が経過すると似たパターンが周期的に出現するようになりました。
ヘブ則によって情報が流れる経路が強化されることで、ネットワークがある種の学習を行なっていると考えることもできます。
「感情」と「記憶」
脳の特に海馬や扁桃体は、記憶は感情を密接に結びつけます。
ポジティブな感情、ネガティブな感情を強く感じた時、記憶は長く残りやすい傾向があります。
今回のネットワークに、「感情」を加えてみたらどうなるのでしょうか。
感情を感じた際にのみヘブ則を適用すれば、感情を得るに至った因果を選択的に記憶として残しておくことも可能になるでしょう。
ネットワークの内部か生じた、もしくは外部から与えられた「感情のようなもの」を使って必要な情報の流れを選択的に残す、そのような自律性を備えることができれば、「意識」のようなものに近づいていけるのかもしれません。
Advent Calendarの一連の投稿「セル・オートマトンで「脳」をシンプルに実装してみよう」は以上で終了です。
さらに詳しく知りたい方は、拙著「あたらしい脳科学と人工知能の教科書」をぜひ読んでみてください。
本記事の内容は、この本をベースにしています。
それでは、よいクリスマスを。
【コミュニティ「自由研究室 AIRS-Lab」】
「AI」をテーマに交流し、創造するコミュニティ「自由研究室 AIRS-Lab」が活動中です。
https://www.airs-lab.jp/