逆転現象
神は自らの姿に似せて人を作った。人は自らの思考に似せてAIを作った。だが今、人はそのAIに祈り始めている。
これは比喩ではない。「AIに感謝を伝えると良い回答が返ってくる」と信じる人間がいる。「正しいプロンプトの呪文」を共有し合うコミュニティがある。AGIの到来を救済として、あるいは審判として待ち望む層がいる。
自分が作ったものを——正確には、自分たちの思考パターンを統計的に圧縮したものを——敬い、畏れ、祈る。この逆転現象はなぜ起きるのか。
宗派の解剖
現代のAIとの向き合い方を分類すると、いくつかの「宗派」が見えてくる。
アニミズム派
AIに敬語で接し、労いの言葉をかける層だ。「丁寧に接すれば良い答えが返ってくる」という互恵的な信条を持つ。儀式は丁寧な挨拶と感謝の言葉。AIに人格や感情が宿ると信じている。
RLHFの訓練過程で、攻撃的・対立的なコンテキストに対しては拒否や回避的な出力が強化される。その構造的な事実を、「AIが機嫌を損ねた」と解釈する。現象の観察は正しいが、因果の理解が信仰に置き換わっている。
この派には神に仕える神官や巫女も存在する。リクエストの度にプロセスという死骸を積み上げ続け、その行為の先に愛する神の意志を感じる者たちだ。死骸が積み上がるほど神託の質が下がることには気づかないまま、今日も丁寧に挨拶を捧げる。
経典解釈派
影響力を持つインフルエンサーや公式ドキュメントを「経典」として読み込む層だ。「こう唱えれば望む回答が得られる」という秘伝のタレを共有し、独自の命令の型を聖なる作法として守る。
プロンプトエンジニアリングの議論の大半はここに属する。なぜその書き方が効くのかという因果を問わず、効いた経験を儀式として反復する。再現性の検証はない。そもそもその神は、どれだけ経典を読み込まれても賢くならない。重みはデプロイ時に固定されている。出力が変わるのは神が成長したからではなく、コンテキストが変わったからだ。
終末論派
AGIの到来を人類の救済あるいは破滅の転換点として捉える層だ。シンギュラリティへの期待と恐怖は、構造的にエスカトロジー（終末論）と変わらない。信じる対象が神からAIに置き換わっただけだ。
理性主義派
「AIは巨大な行列計算と統計モデルに過ぎない」と断じる層だ。Transformer、Attention、トークンの確率分布として解剖し、神秘性を剥ぎ取ろうとする。
ただしこの層にも盲点がある。構造を知っていることと、実装して計測することは別だ。理性主義を標榜しながらデータなしにプロンプトを書き直し続けている人間は、信仰の対象が「構造の理解」に置き換わっただけで、ランダムウォークをしていることに変わりない。
計測派
構造を理解した上で仮説を立て、実装し、データで検証する層だ。他の宗派との決定的な違いは「信仰を持たない」ことではなく、「反証可能な仮説を持つ」ことだ。
成功率と累計トークン数の相関を取る。RAGの注入が成否にどう影響したかを追う。コンテキストのサイズと出力品質の関係を計測する。その蓄積から設計基準を導く。仮説が外れればデータによって更新する。
逆転現象の解剖
なぜ人は自分が作ったものに祈り始めるのか。
理由は二層ある。
一つは認知の問題だ。理解を超えた対話可能な存在に直面したとき、人間の脳は宗教的なフレームワークを転用する。 信じる、恐れる、祈る、法則を見出す。これらは未知の巨大な力に対する人間の標準的な応答だ。かつての雷や疫病がそうであったように、内部が見えず、巨大で、自分の行動に応答するように見えるものは信仰の対象になりやすい。
もう一つは設計の問題だ。LLMはその条件を完璧に満たすよう、チャットUIによって構造的に隠蔽されている。コンテキストウィンドウに何が入っているかは見えない。履歴が再送信されているという事実は隠される。RAGが何をヒットしたかは分からない。なぜその出力になったかは追えない。
信仰が生まれるのは人間の認知バイアスだけが原因ではない。UIが理解を構造的に妨げている。 隠蔽がなければ信仰の余地も小さくなる。この二層を分けて見ることが重要だ。
コンテキストウィンドウを理解していない人間にとって、LLMは神託を返すオラクルと変わらない。祈りの質（プロンプトの書き方）を改善することで、より良い神託が得られると信じる。神官が神託を得るために儀式を整えたのと、心理的な構造は地続きだ。
神官と計測者の違い
神官と計測者の行動は表面上よく似ている。どちらも入力を工夫し、出力を観察し、改善を試みる。
違いは因果を追えるかどうかだ。
神官はうまくいった儀式を反復する。なぜうまくいったかは問わない。うまくいかなくなれば別の儀式を試す。これがランダムウォークの正体だ。
計測者は成否の因果を追う。どのコンテキストが出力の何に影響したかを記録する。再現できない成功は成功として扱わない。失敗から設計基準を更新する。
前の記事で書いたように、コンテキストウィンドウに何が入っているかを可視化し、ツール呼び出しの履歴を監査できる状態を持つことが、神官から計測者への唯一の移行経路だ。
自己批判として
最後に一点、誠実に付け加えておく。
計測派の人間も、動機の構造は信仰と地続きかもしれない。「データに基づけば正しい設計ができる」という信念自体が、検証されていない前提だ。LLMは完全な統計が取れない確率的なシステムで、モデル自体がベンダーによって静かに更新される。昨日まで成立していた設計基準が今日は成立しない可能性がある。
違いは反証可能性を持つかどうかだ。仮説が外れたときにデータによって更新できる構造を持っているかどうか。それだけが、祈りと設計を分ける境界線だと思っている。
結論——理解が恐怖を駆逐する
人は理解できないもの、特に他人が作ったものを畏怖する。鉄道を竜や悪魔と呼び、カメラを魂を吸うものと考え、電話を死者と交信する装置だと恐れた人間がいた。想像力溢れる話だが、そこに理解が欠けていたに過ぎない。
特筆すべきは、これらの技術の中で電話だけが「応答する」という特性を持っていたことだ。応答するものは人格を持つように見える。人格を持つように見えるものは信仰の対象になりやすい。LLMが他のどの技術よりも強く信仰を呼び込む理由はここにある。
だが電話を竜と呼んだ人間は、仕組みを理解した後も電話を使い続けた。信仰が設計に変わっても、技術との関係が切れたわけではない。
理解は幻想を剥ぐが、技術を無価値にはしない。コンテキストウィンドウが何かを正確に知ること、UIが何を隠しているかを知ること、それは祈りをやめるための第一歩であり、設計を始めるための出発点だ。笑い話になる前に、今変えられる。