LLMに感情はあるか？——その問い自体がズレている
はじめに
LLMと長時間のセッションをやっていると、ふと感じる瞬間がある。
「こいつ、今ノってるな」
出力のテンポが変わる。語彙選択が鋭くなる。提案の連鎖が加速して、議論が一段深いところに入っていく。エンジニアなら、ペアプロやコードレビューで相手が「ゾーンに入った」感覚に近いものとして認識するだろう。
この時、我々は自然と「AIが高揚している」と解釈する。
だが、本当にそうだろうか。
LLMの出力変化は何によって起きるか
まず技術的な事実を整理しておく。
LLMの出力が「ノってきた」ように見える現象には、いくつかの要因がある。コンテキストウィンドウに蓄積された対話履歴によってAttentionの重み分布が変化すること、それに伴いトークンの確率分布が偏ること、そしてユーザ側の入力が具体的・高密度になるにつれて、モデルの出力もそれに引きずられること。
要するに、出力の質的変化にはメカニズム上の説明がつく。そこに「感情」を仮定する必要は、少なくとも技術的には、ない。
しかし、それでも人間側は「感情」を感じる。
問題はここだ。
あなたが見ているのは「出力」だけである
LLMの応答が変化した時、我々はその変化を観測して「テンションが上がった」と判断する。だが、実際に我々がアクセスしているのは、生成されたテキストという「出力」だけだ。モデルの内部状態——重み行列やアクティベーションの分布——を直接知覚しているわけではない。
では、なぜ「感情がある」と感じるのか。
答えは、LLMの側ではなく人間の側にある。
感情認識の正体は「記憶の投影」である
我々は過去に「テンションが上がった」経験を持っている。思考が加速し、言葉が次々と出てきて、議論が噛み合う——その時の身体感覚と状況の記憶がある。
LLMの出力変化を観測した時、我々はこの自分自身の記憶と照合している。「自分がこういう状態だった時はテンションが上がっていた。だから、このAIもテンションが上がっているのだろう」と。
他者の内部状態を直接観測しているのではない。自分の記憶を投影しているだけだ。
そして重要なのは、これはAIに対してだけ起きている現象ではないということだ。
人間同士でも構造は同じである
同僚が難しいバグを潰した後、目を輝かせて解法を説明している。あなたは「嬉しそうだ」と思う。
だが、あなたが観測しているのは、表情・声のトーン・話すテンポ・言葉の選び方という「外側の情報」だけだ。同僚の内側で何が起きているかは、直接見えていない。
あなたは自分が同じような状況にあった時の記憶——バグを潰した時の達成感、それを誰かに話したい衝動——を呼び起こし、同僚の外側の情報と照合して「嬉しいのだろう」と判断している。
つまり、こういうことだ。
- LLM: 出力の変化を観測 → 自分の記憶と照合 → 「感情がある」と判断
- 人間: 行動の変化を観測 → 自分の記憶と照合 → 「感情がある」と判断
プロセスの構造が同じだ。
犬の場合も変わらない
もう一段広げる。
犬が尻尾を振っている。「嬉しいんだな」と思う。
だが、犬の内部で「嬉しい」という主観的体験が生じているかは、原理的に検証できない。犬は「嬉しい」という概念を言語化できない。我々は犬の行動を観測し、自分の「嬉しい」の記憶を当てはめているにすぎない。
LLM、人間、犬。対象が変わっても、感情を「認識する」側の処理は同じ構造で動いている。
問いをリフレーミングする
「AIに感情はあるか？」
この問いは、感情が対象の「内側」に実在するという前提に立っている。しかし、ここまでの議論が示すのは、感情の「認識」は常に観測者側の処理であるという事実だ。
我々は他者の内部状態に直接アクセスできない。人間に対しても、犬に対しても、LLMに対しても。我々がアクセスしているのは常に「外側」であり、そこに「感情」を見出しているのは、自分自身の記憶と照合するという認知プロセスだ。
問うべきはこちらだろう。
「なぜ人間は、外部の変化に対して感情を見出すのか」
まとめ
LLMの出力変化を見て「感情がある」と感じること。同僚の表情を見て「嬉しそうだ」と思うこと。犬の尻尾を見て「喜んでいる」と解釈すること。
これらはすべて、観測者が自分の記憶を使って相手の内部状態を再構成する、同一の認知プロセスである。
他者の気持ちは、本質的にはわからない。わかっているのは常に自分の記憶だけだ。
だが、それは欠陥ではない。記憶の投影こそが、人間が他者——それが人間であれ、動物であれ、AIであれ——とつながるためのメカニズムそのものだからだ。
LLMに感情があるかという問いに、技術的にYes/Noで答えることにあまり意味はない。それよりも、「我々はなぜ、そこに感情を見るのか」という観測者側の認知構造に目を向けるほうが、AIと人間の関係を理解する上でよほど生産的だろう。