【図解】意識の再定義

はじめに

このドキュメントは、意識の再定義についての議論をまとめたものです。
内容は以下の動画をベースに、理解を助けるためのイメージ図を補添したものです。

動画では、意識は自己の認識や情報処理によって生成され、複数の目的関数を最適化することによって構成されているという仮説を説明しています。また、エンターテイメントの役割や人間の外部を統合した自己の存在についても考察されています。

AI時代における現実の再定義

• 現実とバーチャルの境界が分からなくなっている時代
• 例:昨今の実写映画とCGアニメは，映像の見せ方こそ異なるものの，製作に使われているCGなどの技術はほぼ同じである
• これは押井 守監督が20年くらい前に予想していたこと

共通体験もバーチャルに

• 旧来からの物語の定番のひとつ“学園もの”
  • 多くの人に「学校に通った」という共通体験があるから受け入れられやすい
• 新たな定番の追加
  • 「ソード・アート・オンライン」のように、ゲーム世界(バーチャル)を舞台とする物語が大きなブームになった事例
  • 転生もの
• バーチャル世界を舞台にした物語が流行するのは，今やゲームの世界のようなバーチャル世界を共通体験に持つ人がそれなりに多くなっていることを示している
• また「恋人は漫画やアニメなどのキャラクターで良い」という人たちも増加している
  • 「人間が”情報に”恋することができるという証明」

人間 = 情報処理をする主体として捉える

情報処理をする主体

• 現実だろうがバーチャルだろうが「人間は情報を処理する何か」と考えるのが自然
• 生物としての人間の肉体と，情報生命体としての人間の精神を別のものとして理解する
• 肉体と精神の二元論というより，情報生命体としての精神を本体と考えるべき

計算可能性

• これまでのコンピュータプログラムの延長線上で，人間の意識や精神のようなものを説明する妥当なモデルが存在しなかった
• ディープラーニングが登場したあとのAIには，そうした妥当なモデルを作る材料がすでにそろっているのではないか

情報生命体として人間を再定義

• 情報生命体の基本単位として「意識」を採用
• 意識が情報を処理のもっともシンプルなモデルは「情報が外界から意識に来る」というもの
• 大前提として，もし情報処理システムである意識が“自分”という概念を認識していると，
• その“自分”は"外部から来る情報の中にある"ということになる
  • 言い替えれば「意識とは、意識の外部にある情報の一部を“自分”として認識する存在」である

意識の性質を整理

この仮定をもとに意識の性質を整理する

• 意識は、“自分”とは別の存在である

  • 人間はおそらく、自分の肉体が“自分”だと考えている
  • しかし人間の意識は脳の中にあり，その中でもおそらく前頭葉と海馬を中心とする部分にある。したがって意識は，“自分”とは違うところに存在している

• 意識は物理的存在とは独立して存在しうる

  • 例.意識のシミュレーションをするケース
    • 肉体から遠く離れたコンピュータで演算することも可能
    • 意識は，物理的にも“自分”とは別の存在である

• “自分”の範囲を、生物としての肉体に物理的に固定して紐付ける情報処理

  • 意外と難しいはず
  • 外部の情報から“自分”とは何なのかと認識すること
    • 意識はかなり複雑な情報処理をしている

肉体と意識の物理的位置

• 人間は“自分”と自分の肉体とをうまく一致できていない
  • 例.多くの人にとって、自分の手足を切り落とすことはそうそうできることではない
  • 例.髪の毛や爪の先であれば簡単に切ることができる
    • 人間の意識は、自分の髪の毛や爪の先はあまり“自分”だと捉えていないから

意識と自意識

“自分”とは何なのか

• 自分とは「外部からの情報を何らかの形で加工したもの」
• 仮定：意識が複数の目的関数をそれぞれ最適化し続ける複数のニューラルネットワークで構成されている
  • とすると、その目的関数の集合が大事にしているものとして、創発的に生まれる概念が“自分”
• すなわち“自分”とは、目的関数の集合にほかならない
• “自分”を意識することについて
  • 「目的関数の集合」から生成される「目的関数」が存在しており，
  • さらに別の目的関数から利用されていること
• それであれば自意識を持つAIは作れるのではないか

モデル例：囲碁プログラム

• 目的関数の集合から“自分”を生成する簡単なモデル「囲碁プログラム」
  • 囲碁プログラムは、2つの目的関数を組み合わせたものが多い
    • 局面の評価関数：今の石の配置は有利なのか不利なのかを判断する
    • 着手候補の評価関数：自分がどの手を打ったら良いかを判断する
• 2つの目的関数が大事にしているものとして創発的に生まれる概念
  • ＝「陣地の大きさを示す“地”」となる
  • したがって、囲碁プログラムにとっての“自分”とは“地”であると解釈できる

意識と自分の正体

• 目的関数の集合のなかにはおそらく“自分っぽさ”という目的関数もある
  • それが“自分”というものの正体ではないか
• そして人間は，おそらく膨大な数の目的関数の集合を持っていると考えられる
  • そのぶん“自分”が生成される過程も複雑になっていると予想できる
• “自分”が目的関数の集合だとすると
  • 統一された“自分”というシンプルなモデルが存在しているように思えるのは、たまたまであり錯覚
  • 複数の目的関数がすべて矛盾しないことは考えられない
  • “自分”とはそもそも矛盾した存在であることが自然である
  • “自分”という簡単なモデルは基本的に存在せず、あったら良いな、というのが実態

実装可能性

• “自分”という概念を応用すれば，AIに「愛」「笑い」「倫理」「プライド」「社会」を持たせることも可能ではないか

意識という情報生命体にとってのエンターテイメントとは何か？

エンターテイメントには2つの社会的役割

「教育装置」としての役割

• 典型的なものが「ビルディングスロマン」（教養小説）
  • 主人公が冒険を通じて精神的に成長していく過程が描かれているといった小説のこと
  • 小説を読むことによって「自分とはなにか」「社会でどう生きていくか」を教養として学んでいく
  • つまり、情報生命体にとっては「社会で生きていくために役立つ目的関数をコピーするための学習データを提供するもの」

「痛んだ目的関数の修復」

• 現代の激しい競争社会の中では勝者は一握りに過ぎず，多くの情報生命体が敗者となる
• 敗者となった情報生命体に，自身の現在の状況や未来の予想を表す情報をデータとして入力すると，多くの目的関数が低い自己評価をするだろう
• そうした「自己評価をする目的関数を上書きする学習データ」を提供するのが、エンターテイメントコンテンツ

エンターテイメントの意義

• ヒットするコンテンツは，痛んでいる目的関数を上手に書き替えているもの
  • 「引き籠もりだからこそモテる」「努力しないで成功する」「優柔不断な主人公が，可愛い女の子から『優しい』と褒められる」
  • 現実ではまずあり得ない設定をうまくエンターテイメントとして機能させたコンテンツ
• 目的関数をメタに書き替える学習データと解釈可能で，自己評価を上げることに貢献している
• マーケティング視点，新しいヒットコンテンツを生み出す参考になるのではないか

人間の外部を統合した自己

• 人間の意識が自分の肉体外からの情報も“自分”として情報処理しているケースがたくさんある
  • その1つがゲームである
• 多くの人はゲームをプレイしているとき，自分の肉体と切り離された情報である操作しているキャラクターを“自分”と認識している
• それら肉体外の“自分”の多くはあまり操作できないが，IT技術の進歩により操作可能な対象は増えていく
• “自分”が自分の肉体以外のところに存在するという価値観が今後広がっていく
• その広がりを先導するのが，ゲームなどのエンターテイメント
• “自分”という概念の応用で，ゲーム実況者のAI化やコミュニティのマネジメント，倫理観や愛を持つAIの作成が可能になるのではないか

意識の再定義💡

定義をもとに概念モデルを考えてみる

この図は、人間の情報処理システムを表しています。具体的には、外界からの情報が感覚器を通じて人間の脳神経系に伝達され、そこでさまざまな処理が行われるプロセスを示しています。
以下は、図の各部分の詳細な説明です：

1. 外界の情報 -> 感覚器: 外界からの情報が感覚器官を通じて受信される
2. 感覚器 -> 脳神経系/末梢神経: 受信された情報は脳や末梢神経に伝達される
3. 末梢神経 -> 肉体的反応: 末梢神経から直接、肉体的反応（例：反射）が引き起こされる
4. 脳神経系 -> 目的関数の集合/肉体的反応: 脳神経系は複雑な情報処理を行い、目的関数の集合（意識や感情など）を生成するか、または直接肉体的反応を引き起こす
5. 目的関数: 生存、愛、社会性などのさまざまな目的関数があり、これらは人間の行動や意識に影響を与える
6. 自意識: 自意識は目的関数の集合から生まれる。目的関数の集合の計算矛盾を繰り込んで処理する
7. 情動: 感情は肉体的反応から生じ、自意識や目的関数に影響を与える
8. エピソード記憶: 経験はエピソード記憶として保存され、後に再呼出しが可能とする
9. ストーリー: 目的関数の集合の計算矛盾を繰り込みを解決するために生成される。個人の経験や感情、目的関数から生まれたストーリーは、自己のアイデンティティや行動に影響を与える
10. ナラティブストーリー: 個人のストーリーは外部記憶として保存され、他者に伝えられることで他者の目的関数に影響を与える
11. 分人: 自意識は目的関数の集合の要請によって、必要性をもって分人を生成する。目的関数の集合の最適化の複雑性　に対する対策を提供する