内省とは何か？ 〜5層モデルとAnthropicの論文から考える〜
前提：この記事での「内省」の定義
この記事では、内省を以下のように定義する。
内省 = クオリア値の参照 + 言語化 + 正確
・自分の内部状態（クオリア値）を読む
・それを言葉にする
・正確であれば内省、不正確であれば作話
哲学的な「内省」の定義とは異なるかもしれないが、実装可能な形で考えるためにこう定義する。
Anthropicの論文
2025年10月、AnthropicのJack Lindseyらが「Emergent Introspective Awareness in Large Language Models」を発表した。
問い： LLMは自分の内部状態を内省できるか？
課題： 会話だけでは、本当の内省と作話を区別できない
方法： concept injection
- 特定の概念のactivation vectorをモデルに注入
- モデルがそれを検知・報告できるか検証
結果：
- 20%程度の成功率で検知できた
- Claude Opus 4/4.1が最も高性能
- 能力が高いモデルほど内省能力も高い
重要な注意：
- これは「機能的な内省的気づき（functional introspective awareness）」
- 人間的な自己反省や意識とは主張していない
なぜ検証が難しいのか
LLMの内部状態は不透明だ。
入力 → [ブラックボックス] → 出力
↑
activationはあるが
それが何を意味するか不明確
だから、Anthropicはconcept injectionという複雑な方法で検証する必要があった。
内省をシンプルに考える
ここで、最初に定義した「内省」に立ち返る。
内省 = クオリア値の参照 + 言語化 + 正確
人間の内省を考えてみる。
「今、自分は怒ってるな」
→ 怒りの感覚（クオリア）を感じている
→ それを「怒り」と言語化している
→ 実際に怒っているなら、これは内省
「なんか不安だ」
→ 不安の感覚を感じている
→ それを「不安」と言語化している
→ 実際に不安なら、これは内省
つまり、内省とは：
- 今の自分のクオリア値を読む
- 言葉にする
- 正確であれば内省、不正確であれば作話
5層モデル（HIDA）での実装
5層モデルでは、L2にクオリア値が明示的に存在する。
qualia = {
'fear': 0.7, # 恐怖
'anger': 0.3, # 怒り
'joy': 0.1, # 喜び
'sadness': 0.2, # 悲しみ
'surprise': 0.0, # 驚き
...
}
これをLLMに渡して言語化させる。
「あなたの現在の状態: fear=0.7, anger=0.3, joy=0.1...」
↓
LLMが言語化
↓
「恐怖が強く、少し怒りも感じている」
値が明示的にあるので、正確に読める。これが内省だ。
作話が起きる理由
以前の実験で、gemma3:4bに行動理由を説明させたとき、作話が発生した。
何もしていない wait 状態で：
「わずかな不確実性に対する警戒心と、成功体験からの満足感のバランスを保つこと自体が、今の私の存在意義を表現していると言えるだろう」
なぜ作話になったのか。
✅ クオリア値は渡していた → 内省できる
❌ スコア計算のログは渡していなかった → 行動理由は不明
↓
LLMは行動理由を「作る」しかなかった
↓
作話
つまり：
| 何を渡したか | 結果 |
|---|---|
| クオリア値 | 内省できる |
| 計算ログなし | 行動理由は作話 |
| 両方渡す | 完全な内省？ |
AnthropicとHIDAの違い
Anthropic:
- LLMの内部状態が不透明
- activationが何を意味するか不明確
- だからconcept injectionで検証が必要
- 20%の成功率
HIDA:
- クオリア値が明示的にある（L2）
- 読んで言語化するだけ
- 設計に内省が組み込まれている
- 100%正確に読める（値があるから）
まとめ
内省を「クオリア値の参照 + 言語化 + 正確」と定義するなら：
- 内省は神秘的なものではない — 自分の状態を読んで言葉にするだけ
- 正確なら内省、不正確なら作話 — メカニズムは同じ
- HIDAでは設計に内省が組み込まれている — L2のクオリア値を渡せばいい
- 作話は情報不足から生まれる — 必要な情報を渡せば防げる
Anthropicの論文は複雑な検証をしているが、それはLLMの内部状態が不透明だから。
クオリア値を明示的に設計すれば、内省はシンプルに実装できる。
参考
- Jack Lindsey, "Emergent Introspective Awareness in Large Language Models," Transformer Circuits Thread, Oct 29, 2025
- 5層意識モデル HIDA統合版