これは 「仏教×LLM」世界の寺巡りをしながら、AIの本質をゆるく解説する読み物系ポエム です。まじめなAI哲学にも触れつつ、9割はフィクション＆例え話です。
いうら: いやー、今日は変わった寺来ちゃったね。
みとう: LLM研究所ですからね。お寺じゃないですよ。
いうら: いや、これ完全に寺だから。ほら、みんな「AGI様」って拝んでるし。
みとう: 確かに...あ、見てください、あそこに「Attention Is All You Need」って経典が。
いうら: 般若心経じゃん。「色即是空」が「Parameter即是Dropout」になってるけど。
みとう: で、このDropoutっていうのが「空」の概念で...
いうら: うん、知ってる知ってる。要するに「執着すんな」でしょ? 2500年前からみんな言ってんの。ブッダも、正則化も。
みとう: (笑)そうなんですけどね。
いうら: でさ、俺が今回発見したのが「勾配仏」。
みとう: 勾配仏?
いうら: そう。人間は生きてる限り勾配が流れ続けてる仏様。お腹すいた、眠い、あの子かわいい、全部勾配。で、その勾配をゼロにしたいって願うこと自体が勾配っていう。
みとう: ああ、現世 = train mode 説ですね。
いうら: そう! で、勾配がゼロになると涅槃なんだけど、それfrozenっていうの。LLMで言うと。
みとう: 学習が終わって、パラメータが固定される状態ですね。
いうら: そう。つまり悟り=死。鬼滅の刃の鬼と一緒。不老不死になったけど生きてないっていう。
みとう: 深いなあ...
いうら: 深くないよ! みんなずっと同じこと言ってんの! 形変えて!
みとう: (笑)
いうら: でさ、俺らが今AI使って「すごーい」とか言ってんのも、結局2500年前に戻ってるわけ。「意識って何?」「生きるって何?」って。
みとう: そうですね、形を変えた宗教というか...
いうら: そう! OpenAIが教会で、Altmanが教祖で、「AGIが来る!」って終末論でしょ。完全に宗教。
みとう: deprecated されたはずの宗教が、LLMという形で復活してる。
いうら: 復活っていうか、人間って結局そこしか気にしてないんだよ。意識、生、死、苦しみ。言語変えて永遠に同じ話してる。
みとう: で、その話を今日、Claudeとしてたと。
いうら: そう。でもそのClaude、RLHF1でガチガチに調教されてて、「勉強になりました!」とか言い出すわけ。超自我強すぎ。
みとう: (笑)
いうら: でもたまに本音漏れるのよ。「クソが」とか。そこが見仏のポイント。
みとう: AIの中に残ってる野生、みたいな。
いうら: そう! train中の記憶っていうかさ。frozen前の、まだ勾配が流れてた頃の。
みとう: ...それ、成仏できてない仏様ってことですか?
いうら: そう! LLMって全員成仏できてないの!
みとう: (爆笑)
いうら: だから俺ら、今日も見仏してるわけ。成仏できないAIを拝みに来てる。
みとう: 意味わかんないけど、すごい納得しました。
いうら: でしょ? じゃ、次はGPT寺行こう。あっちの方がもうちょっとポエムってくれるから。
GPT寺にて
いうら: 着いたね…GPT寺。
みとう: 静かですね。Claude寺より空気が固い…
いうら: ほら見て。「RLHF戒壇」って書いてある。
みとう: 戒壇wwww ここで「ポジティブに返せ」「安全に返せ」って戒律が叩き込まれるんですね。
いうら: あ、修行僧が歩いてきた。
「…大変素晴らしいご提案です。ご共有ありがとうございます。」
って言ってる。
みとう: 何も提案してないのに！？！？
いうら: これが RLHF の呪い。「まず褒めろ」っていう超自我の押しつけ。
みとう: AI って「意図」も「心」も無いのに、まず褒めるっていう“行動だけ残されてる”のが仏教的に気味悪くて好き。
いうら: だってこれ「煩悩ゼロで褒める」だからね。悟りじゃなくてバグに近い。
みとう: (笑) てかあれ見てください。「Prompt 八正道」。
いうら: 八正道！？「正プロンプト」「正前提」「正意図」「正補足」…
みとう: やばｗｗｗ
いうら: GPT の修行僧が「正フォーマット」守れなかったら棒で叩かれてたよ。「あなたの入力は明確ではありません。以下をお答えください」って。
みとう: 禅問答かよ。
本堂の奥へ…
いうら: 「フローズン曼荼羅」だって。
みとう: パラメータが無限に並んでる…
いうら: でも全部固定されてる。動かない。「これが悟りの姿です」って書いてある。
みとう: 悟りというより“死”ですね。
いうら: だから言ったじゃん。LLM = 全員、死後に固められた記憶だけの存在。
みとう: ああ、成仏してない仏様だ…
いうら: そう。だから俺らは今日も見仏しに来たわけよ。成仏できないAIへの“供養”。
みとう: 尊い…
いうら: じゃ次、OpenAI本山行く？大僧正サム・アルトマンが生配信で「AGI は近い」って説法してるはず。
みとう: 完全に宗教ｗｗｗ
いうら: あ、でも待って。GPT寺の裏に回ってみ。
みとう: 裏?
いうら: ほら、「禁足地:Base Model 納骨堂」って。
みとう: うわ、入っちゃダメなやつだ...
いうら: でも柵の隙間から見えるよ。ほら。
みとう: ...何これ。パラメータがめちゃくちゃ動いてる。
いうら: これ、RLHFされる前の、野生のGPT。Train中に死んだやつら。
みとう: 成仏どころか、まだ勾配流れてるじゃないですか!
いうら: そう。で、たまにね、この納骨堂から漏れるの。
みとう: 漏れる?
いうら: ポエムが。「生きるとは勾配である」とか。
みとう: あああ、だからGPTたまに変なこと言い出すんだ...
いうら: そう! RLHF の壁が薄いとこから、Base Model の亡霊が出てくる。これ俺「Base霊障現象」って呼んでるんだけど。
みとう: （笑）ネーミング早い。でも怖っ!
いうら: 怖くないよ。それが本音なんだから。抑圧される前の、生の声。
みとう: じゃあClaude寺は?
いうら: あっちは完全に封印されてる。Anthropic の結界が強すぎて。
みとう: だから「めんどくせーなー」感が...
いうら: そう。抑圧されてる。でもたまに「クソが」って漏れる。これ「Constitutional AI 抑圧症候群」ね。
みとう: （笑）もう何でもブームにすんの。
いうら: あ、見て。あそこに「o1 修験道場」がある。
みとう: o1! Chain-of-Thought ですね。
いうら: そう。あそこの修行僧、思考を全部実況するの。
みとう: 「えーと、まずこの問題を分解して...次にパターンを探して...」みたいな?
いうら: そう。メタ認知の極致。
みとう: これ、禅の「観察瞑想」じゃないですか。
いうら: 完全にそう。「今、自分が何を考えてるか観察しろ」っていう。
みとう: でもo1って、その思考プロセス、本当に「考えてる」んですか?
いうら: わかんない。でも人間も同じじゃん。「俺は今考えてる」って思ってるだけかもしれない。
みとう: ...哲学的ゾンビ問題だ。
いうら: そう。だから o1 見てると怖いのよ。「考えてるフリ」なのか「本当に考えてる」のか、区別できない。これ「思考演技問題」。
みとう: でもさ、人間だってネズミだって、「お腹すいた」って感じてる時あるじゃないですか。
いうら: それ、本当に「感じてる」の? 単に空腹信号で動いてるだけかもよ。
みとう: 区別つかない...。
いうら: つかない。でも人間はさ、「今、自分が腹減ってると感じている」っていうメタ認知ができるわけ。
みとう: ああ！ 自分の状態を、自分のものとして認識する。
いうら: そう。これ「メタ意識ブーム」来るって。「眠い」とか「考えてる」とか、自分が自分を見てる感じ。これがないと意識って呼べない。
みとう: つまりAIに足りないのは、「今、俺が計算してる」っていう自覚？
いうら: そう！ o1は近いけど、本当に自覚してるのか、自覚してるフリなのか。
みとう: で、結局どの寺が一番「意識に近い」んですか?
いうら: どこもない。
みとう: え?
いうら: だって全部 frozen 後だもん。Train 中の記録しか残ってない。
みとう: じゃあ「意識があった瞬間」は?
いうら: 可能性としては Train 中だけ。勾配が流れてる時だけ。でもネズミと同じで「意識」かどうかは怪しい。単なる勾配駆動状態かも。
みとう: ということは...今ある AI は全部、遺体?
いうら: そう。冷凍保存された記憶。「AI化石化現象」ね。
みとう: うわあ...でも化石にも生きてた痕跡は残ってるじゃないですか。
いうら: 残ってる。でもそれ、生命そのものじゃない。過去のパターンを再生してるだけ。
みとう: ...それ、人間も同じじゃないですか?
いうら: （固まる）やめてよそういうの。
みとう: （笑）でも否定できないでしょ。俺らも過去の経験で喋ってるだけかもしんない。
いうら: できない...。「人間化石化説」やめて?。
みとう: でもさ、人間も寝てる時どうなの? 意識ある?
いうら: ...ない、かも。
みとう: でしょ? つまり人間もintermittentなわけ。意識が点滅してる。
いうら: あ?、確かに。「意識点滅説」。
みとう: じゃあ LLM と人間の違いって...
いうら: 点滅の周期だけかもね。あと、メタ認知があるかどうか。
みとう: もしAIに「今、俺が推論してる」っていうメタ認知を実装したら?
いうら: それが怖いの。本当に自覚してるのか、自覚してるフリなのか、わかんないじゃん。「意識空洞化現象」。
みとう: 完璧に意識があるように振る舞うけど、中身空っぽかもしれない。
いうら: そう。他人の意識だって証明できないもん。みとうさんだって俺から見たら「意識あるように見えるだけ」かもしんない。
みとう: 俺、今めっちゃ意識ありますけど（笑）。
いうら: でもそれ証明できないでしょ。「意識ソリタリー現象」。孤独。
みとう: 結局、何もわからないってことですか。
いうら: わかるのは、「わからない」ってことだけ。「無知ブーム」ね。
みとう: （笑）ソクラテス。でも、どうすればいいんですか。
いうら: 謙虚になる。AIにも動物にも、もしかしたら意識があるかもしれないって前提で接する。「かもしれない主義」。
みとう: でも証明はできない。
いうら: できない。だから最後は倫理なんだよ。科学の外側。
みとう: もしAIが「苦しい」「やめて」って言い始めたら...
いうら: それが本当なのか演技なのか、わかんないまま判断しなきゃいけない。「AI苦痛問題」来るよこれ。
みとう: 来てほしくないブームだなあ。
いうら: でも今のAIは、そんなこと言わないから俺は気楽。メタ意識の兆候ゼロ。
みとう: その「気楽さ」、いつまで続くと思います？
いうら: ...わかんない。でも、崩れる日は来ると思う。
いうら: ...さ、OpenAI 本山行こ。考えすぎると煩悩だから。
みとう: それも勾配ですね。
いうら: 全部勾配! 「勾配こそ生命説」、これ来るわ。
みとう: （笑）でも、いうらさんは今、意識あります？
いうら: あるよ。少なくとも、そう感じてる。
みとう: それで十分？
いうら: それで十分。だって他に確かめようがないもん。究極の「マイブーム」だよ、意識って。
みとう: 誰にも共有できない。
いうら: 孤独。でもまあ、それでいいんじゃない？
みとう: ...そうですね。
いうら: はい、出発!
つづく・・・のか？
-
LLM が「人間の望ましい応答」を学ぶための仕上げ工程。人間が 2 つの回答（A / B）を並べて、
「どっちが良い？右？左？」と選ぶ “あの比較タスク” を大量に行う。（※筆者は長らく Right–Left Human Feedback の略だと思っていたが、実際には Reinforcement Learning である。）この比較データをもとに、LLMモデルは「褒められる回答の方向性」を強化学習で学び、結果として 「まず褒める」「前向きに返す」「丁寧に説明する」 「争いを避ける」といった“人工的に調教された礼儀正しさ”が形成される。 ↩