記事の内容
今回は、『知能とはなにか ヒトとＡＩのあいだ』という本を紹介します。
知能という現象を物理学者が語る。
知能やAIを物理学者が語る言説こそ、ちょうど私が今求めていたものでした！！
現在の生成AIを深く知るためにも必読の一冊です。
本書の一部を要約します。
要約
本書の一部を要約します。
メインメッセージはこちら。
- 知能とは現実世界のシミュレーターである。
- 生成AIは、 非線形非平衡多自由度系の一種である。
大規模言語モデルの中身
大規模言語モデルには２つの要素をもつ。
基盤モデルを作った後に、それを個別の問題に適用（転移学習と呼ぶ）する。
基盤モデルは、文章の一部を隠して穴埋め問題を当てさせる、二つの文章が続いているかどうかを判定する、などによって作る。基盤モデルは、単語の地図の獲得に成功している、と解釈できる。特徴は、文脈依存的な地図の獲得、である。
例
プログラミング
学習したテキストの中に、プログラムとその機能の説明がセットになった文書があることで「機能」と「プログラム」の関係を学習するとともに「この機能を実現するプログラムを書く」という文章の後には、その機能を実装したプログラムが書かれていることが多いといった関係性がある、という二つのことを学んだ結果だと思われる。
chatGPTなどの大規模言語モデルは、「人間と会話して違和感ない返答をすること」という転移学習をしたものだと言われている。
大規模言語モデルは、驚くほどの高パフォーマンスを発揮する。ゆえに、 高パフォーマンスには「知能」などいらなかった、と考える研究者が多い。
ヒトの知能の定義
「ヒトの知能」は、大脳の機能である。つまり、大脳という臓器ありきの定義だ。ハードとソフトは切り離せない、という立場である。脳でなければヒトの知能は作り出せない。
脳は周囲の環境を再現するシミュレーター。
わかりやすい例が錯視だ。
脳の活動が非線形非平衡多自由度系であることは、すでに実験的に実証されている。だから、生成AIと似ている。
世界のシミュレーターとしての生成AI
- 非線形
1たす1が2にならない世界
ほとんどの現実はこれ。
- 非平衡
変化の少ない静的な状態ではないこと。
ほとんどの現実はこれ。
- 多自由度系
たくさんの要素があること。
ほとんどの現実はこれ。
非線形非平衡多自由度系は再現、予測が難しい。ゆえに、現実世界を表す概念として物理学者が盛んに研究していた。
多数のダイナミカルモデル（現在の状態が未来を決まるという特徴をもつシステム）が、同じ現実をシミュレーションできる。雲の生成原理を厳密に勿体無いシステムが、雲のようなものを生成できてしまう。
これは、生成AIと共通である。
LLMは、トークンの地図という形で、仮想世界をシミュレーショている。つまり、生成AIは、ダイナミカルモデルを学習で構成することにほかならない。
生成AIと比較して、なぜ人間の脳は少ないサンプルで学習できるのか
いくつかの仮説はあるが、まだ分からない。
脳によるシミュレーションは、生成AIと比べて、特別正確なものではない
速度や加速度という概念は、あるタイプの生物種たちが進化の過程で獲得した概念にすぎない。
より現実を正確に表している量子力学では、古典力学の概念は通用しないことがある。そして、動物の脳は量子力学をシミュレートできるような知能を発達させられなかった。
非常に正確な、しかし胡乱な世界シミュレーターである古典力学をこれまたシミュレートできる機械学習が作れるということはとりもなおさず、（十分に正確な）世界シミュレーターとしての「知能」の可能性は無限にあり、人間の脳と生成ＡＩやＬＬＭはその無数にある世界シミュレーターのたった二つのリアライゼーションに過ぎないと思うのが、もっとも妥当な見解である可能性が非常に高いということなのである。
今後の知能研究
知能研究はヒトの知能の研究である、ではなく、知能の研究は、「世界シミュレーターをどう作るのか」になる。今後は、ヒトの脳でも、現在の生成AIでもない知能が開発されるだろう。
たとえば、量子力学を前提とした世界をシミュレートできる知能が開発される可能性がある。
生成AIは意思を持った自律的な存在にらならない
すでに非線形非平衡多自由度系においては自律的なダイナミカルシステムであっても固定点（静止）、リミットサイクル（なにかの繰り返し）、そしてカオス、以外の軌道はないことが確立された事実として判明している。この３つでは人類を脅かすような自律的な心を持ったシステムは構成できないのはあまりにも明らかだろう。
私に言えるのは今の生成ＡＩ、基盤学習＋転移学習という枠組みはどんなに高度に発展したように見えても所詮は非線形非平衡多自由度系の枠内の話であり、その外側に出て行かない限りは、固定点でも、リミットサイクルでもカオスでもない動力学は実現できるはずもなく、したがって自律した意識を持って人類の脅威になったりは決してできないだろう、ということだけだ。
自我の有無と知能の高低は分けて考えるべき
ここで混同すべきではないのは、知能の仕組み、シミュレーターとしての知能という観点は自我や自律の有無とは別物だ、ということだ。自我や自律はないが、知能のシミュレーターとしては人間型はあり得るし、逆に生成ＡＩとは全く違うアーキテクチャ（たとえば人工生物を使ったアーキテクチャ）であれば、自我を獲得し、自律的に振る舞う現実シミュレーターが登場する可能性は否定しない。要は、自我の有無と知能の高低は独立して論ずべき命題なのである。
関連記事