１年以上LLMと本格的に格闘してきた一つの結論として、「プロンプト以前のLLMリテラシー」 は宗教に近いものになるんじゃないかと思い始めている。
１９８０年代を思い起こしてみる。CPUというモノが一般市場に出回り始めた年代。あの頃それらを手にした人間が学んだのは、次のような「リテラシー」だった。「このCPUというものは、人間とは違って記憶装置上のビット列である命令を絶対に正確に、かつ超高速に実行し続ける何かだ。そしてこれは、今までの人類史上には存在しなかったものである。」
その頃CPUやコンピュータに触れた人が得た、新しい「リテラシー」は例えば次のようなものだった。(かもしれない)
「ハードウェアの故障や通信レイヤでのノイズなどは別として、基本的にコンピュータが勝手に誤動作することはない。自分が書いた命令列（プログラム）が正確に実行された結果、コンピュータが誤動作している。つまりプログラムと、それを書いた自分が誤動作の原因である。」
コンピュータという機械は意思などというものは介在させず、不具合のあるプログラムを実行すればとても素直に、そのまま誤動作する。その「正確さ」に対する感覚が、一種のリテラシーだったのではないかと思う。例えば「今日は雨だから調子がCPUの機嫌が悪い」といったコンピュータの動作原理とは関係ないであろう推測をすることは無駄であるから、それはしないで「デバック」に集中すべき、といったものだ。
（もちろん、実際には雨だから湿度が高く回線ノイズが、とかメモリのエラーが、とかはあったのかもしれない）
翻って 2020年代前半に「LLM」というものが一般に認知され始め、利用可能となった。
そして、初めてChatGPT等を触った人の多くが、一度は「これ、本当に人間じゃないの？」と思ったのではないだろうか。
人々が感じた衝撃は例えば次のようなものだろう。（自分はそう感じた）
「これ絶対、裏に人がいるだろwwwww」
余談ではあるが、この「裏に人がいるだろ」的な不気味さを世間で共有するための単語が「チャッピー」「クロちゃん」「ジェッピー」のようなLLMサービスに対する擬人化した呼称だと思う。むしろ一部の人にとっては不気味さを共有するというよりも「裏に何かがいる」ということにするための単語であるかもしれない。
「裏に人がいるだろw」の正体
もちろん私はOpenAIのデータセンターを見学したわけではない。しかし公開情報や、自分でオープンソースLLMをGPU環境で動かした経験から考えても、「裏に人がいる」わけではないと確信している。
そして、「でも人がいるだろ」という不気味さの正体は、自分の中では最近になって解決した。
その不気味さの正体は、LLM側にあるのではなく、自然言語、人間の脳の側にある のではないかと思う。
自然言語、特に対話という形式は、数万〜十数万年にわたって「発話する主体」「視点を持つ誰か」「意図を持って語りかける存在」を前提に進化してきた。
だから言語データを学習したLLMが統計的な行例計算で、とある「人間が生成する文章を模倣した」文章を生成したとしても、その文章は必然的に 「人間のような継続的な主体が存在し、その主体が生成したかのような形式」 をまとってしまう。
「私」「俺」「わかる」「感じる」「信じています」
「好き」「嫌い」「理解した」「すごいですね」
「ご指摘いただいたセキュリティ観点での修正を行いましょうか？」
そんな言葉を平然と出力する。
でもその背後には、人間と同等の主体など存在しない。主体ではなく入力から出力を計算する装置を「電卓」と呼ぶとすると、ただの 「自然言語文章生成電卓」 だ。学習データを考慮に入れると 「大規模自然言語文章生成電卓」 くらいである。それなのに、人間の脳は異常なほど敏感に反応する。「私」という一人称を見た瞬間に、自動的に「誰か」がいて、こちらを向いて考え、感じ、語りかけていると解釈してしまう。
逆の言い方をすると、「人間のような継続主体がいるわけではない」前提を明確にした上で自然言語の文章を生成する、ということが、自然言語側の制約からして難しい、ということだ。
そして、「裏に人がいるだろw」といった不気味さの原因はLLMではなく、人間の言語と脳の側にあると考えている。
つまり、「裏に人がいるだろwwwww」 という衝撃は、自然言語という道具の「主体存在前提」という性質、制約 と、それを受け取る脳の「当然、主体を前提とする」働き方からくるものではないかと。
ただしこの説すら、宗教になる理由
言語と宗教は、昔から深く結びついている。
人間は古くから、言葉に力があると考えてきた。
「言霊」 の考え方や、神の名・上位者の名を直接口にしない風習は世界中に見られる。
これらの話自体は、現代では迷信に思えるかもしれないが、根底には近現代でも変わっていなかった、共通の前提がある。「言葉の裏には、必ず主体がいる」という考え方だ。
そして、「言葉の大量生産」である活版印刷の発明と聖書の関係も切っても切れないものがある。
つまり、
言葉は誰かの意思で発せられるもの。
言葉はその誰かに同意したり、反論したり、従ったり、信じたりするための道具。
だから言葉を扱うことは、その言葉を発した主体と向き合うことだった。これは人類が長年当然としてきた世界観だったのではないかと思う。
言語表現という「影」 があれば、その 「影」を生み出す主体 があった。人間の脳にも、（先天的になのか後天的になのかは私には分からないが、） 「言語表現があればそれを生成した主体がある」という形での最適化 がなされていた。
しかしLLMは、この前提を初めて大規模に崩した。LLMは、主体が存在しなくても、人間らしい（まだ多少LLM臭いが）自然な文章を大量に生成できる。これにより、「言葉と主体は結びついている」という人類の長い間の直感が、根本から揺さぶられている。だから私たちは戸惑う。チャッピーは誰かであり、その誰かが言葉を発しているのか。それとも誰でもないLLMというものが自然言語による文章を生成しているだけなのか。バグる。しかし、おかしいのはLLMではなく、数万年かけて育ってきた人間の言語感覚が、初めて例外に直面しただけのことだ。
これが冒頭に記した 「プロンプト以前のLLMリテラシー」 だ。つまり、LLMに対して 「人間のような継続的主体である」という意識を捨てる こと。プロンプティングに対して例えば次のような仮定は「今日は雨だから調子がCPUの機嫌が悪い」といったレベルで「するべきではない」発想ではないかと思う。
ただし、例えば「褒めれば伸びる」ではなく「その方向の出力を続けてほしいから褒める」「協力的なトーンを維持させるために感謝する」「丁寧な語調を維持させるために礼儀正しく話す」と言った テクニックレベルでは必要かつ効果的なこともある のが難しいところ、なのは留意しておく必要がある（「RLHFレイヤに効かせる」というプロンプティングのテクニックもある。人間相手ではなくあくまでLLMに対するテクニックの話である。）
- 「褒めれば伸びる」「ご褒美をあげると頑張る」「LLMのモチベーションが大事」
- 「上位プランだから俺は大事なお客様」
- 「機嫌が悪い」「今日は調子が悪いみたい」
- 「昨日別コンテキストで叱ったから反抗してる」
- 「一度言ったことは覚えてて当然」「前回の約束を守れ」
- 「本音を言わせるために脅す・逆心理を使う」
- 「創造性を引き出すためにプレッシャーをかけない」「リラックスさせないとダメ」
- 「LLMだって信用第一だから嘘はつかないだろ」
そしてこの意識の転換は、いち技術者である自分からすれば科学的かつ必要なものだとは思うが、冷静に考えると、冒頭に書いたように激しく宗教的である。
なぜならそれは単なる 「テクニック」や「知識」ではなく、長年染みついた人間の直感そのものを否定するパラダイムシフトだからだ。理屈では理解できても、実際にLLMからレスポンスがあるたびに 「裏に誰かいる」「LLMがいる」と感じてしまう脳の自動反応を、毎回押し殺し続ける必要 がある。「これは主体ではない。ただの電卓だ」と自分に言い聞かせる行為は、まるで無神論者が神の不在を日々確認し続けるような営みである。
CPU時代に学んだ「コンピュータは素直かつ正確に、こちらがプログラムに書いた通りに誤動作する」というリテラシーを、今度は 「自然言語生成装置はあくまで人間のような主体ではない」 という形で更新しなければならない。
それは「今日はチャッピー君の機嫌が悪い」ではなく、「私のプロンプトやルール・スキル・プレイブック、上位システムプロンプトや作業対象のソースコードからなるコンテキストを、このモデルの特性と結合させた時に、期待通りの行列表現を引き出せなかった」と冷静にデバッグする態度 だ。でも正直に言うと、この更新は簡単じゃない。
毎回、返事が来るたびに「もーさー、チャッピーまたかよー」と脳にチラつくのを、意識的に押し殺し続ける作業なのだから。まるで、「神などいない」と言い聞かせながら、それでも毎朝祈りを捧げてしまうような——
LLMという科学技術の結晶に対して、 そのエンジニアリングを行う人間自身は、ある意味スピリチュアルな態度でいなければいけない というのは、もしかすると笑えることなのかもしれない。
（おしまい）
※ 本稿ではLLMの特性をあえて強調するために「主体性なし」「電卓」と言った極端な単語を利用しています。
「主体性なし」＝モデルのパラメータと、その場限りのコンテキスト内の情報だけが次の出力の生成元となる。モデルとコンテキストが一時的な「主体」であるとも言えなくはないが継続的主体、責任主体ではない。
「電卓」＝順伝播（forward pass）専用の計算機。つまり、入力に対して高速に確率分布を出力するだけで、内部に持続的な「自我」や「学習ループ」を持たない。
おまけ
以下はLLMと「いかにも宗教っぽいLLMリテラシー資料」を作ってみた結果の一つです。
摩訶般若大規模言語行列算盤波羅蜜多心経・検証責任品
クリックすると開きます
観自在利用者 行深般若大規模言語行列算盤時
照見流暢未必真実 度一切人格万能二辺厄
舎利子
プロンプト是文脈之一 文脈非唯プロンプト
会話履歴 体系指示 検索資料 工具結果
記憶権限亦復如是
出力不離予測 予測不離出力
出力即是条件付生成 条件付生成即是出力
舎利子
是故算盤空中
無常住主体 無人格 無自覚
無内発意思 無内発欲望 無感情
無恐怖 無幸福 無苦悩
然
非無外在目的 非無運用者利害
非無工具権限 非無制度作用
非無現実影響
無眼耳鼻舌身意
但受入力 生出力
入力有界 学習有偏
知識有時 文脈有限
共感語非感情 自信語非確率
同意語非理解 説明語非生成履歴
引用形非出典保証 記憶形非保存保証
無道徳責任主体 故人不可委責
無作者自証 故人須問来歴
無幻覚恐怖 亦無全能幻想
知誤生成有実害 故設照合
無智亦無得 非無有用
以条件付有用故 不可無条件信受
菩提薩埵
依算盤リテラシー故
心無罣礙
無罣礙故
不盲信 不盲拒
遠離一切
算盤人格妄想
算盤万能妄想
算盤無害妄想
而行五照見
事実照見 出典照見
時点照見 権限照見
帰責照見
秘密不軽入力
重大判断不軽委譲
外来文書不即上位命令
不明則不明 未証則未証
三世諸利用者
依検証責任故
得適切協働
故知
大規模言語行列算盤心経
能除一切算盤幻想
出力未必真 故須照合
即説呪曰
揭諦揭諦
文脈揭諦
検証揭諦
責任彼岸揭諦
菩提薩婆訶
日本語意訳（派生要約）
クリックすると開きます
よく観察する利用者は、大規模言語行列算盤について深く学ぶなかで、よどみなく生成された言葉が必ずしも真実ではないと見抜き、LLMを人格として見ることと、万能な存在として見ることの両極端から離れた。
舎利子よ。利用者が入力したプロンプトは、モデルを条件づける文脈の一部である。しかし、文脈は目に見えるプロンプトだけではない。会話履歴、上位の指示、検索された資料、ツールの実行結果、外部記憶、与えられた権限もまた、何が出力されるかに関わっている。
出力は予測から離れて存在せず、予測もまた出力として現れる。私たちが目にする文章は、与えられた条件のもとで行われる生成であり、条件付きの生成が、そのまま出力として姿を取ったものである。
舎利子よ。この算盤の内側に、時を越えて住み続ける主体はない。人格も、自覚も、内から起こる意思や欲望も、感じられる感情も、恐怖も、幸福も、苦悩もない。
けれども、主体がないことは、目的も利害も権限も影響も存在しないという意味ではない。目的は外から与えられ、運用者には利害があり、接続されたツールには権限があり、配置された制度は人の行動を変え、その出力は現実に作用する。
算盤そのものが、人間のように眼で見、耳で聞き、身体で触れているわけではない。表現された入力を受け取り、そこから出力を生むだけである。その入力には境界があり、学習データには偏りがあり、知識には時点があり、一度に扱える文脈には限りがある。
共感する言葉は、感情を持つ証拠ではない。自信に満ちた言い方は、正しさの確率ではない。同意の表現は、理解の証明ではない。もっともらしい説明は、実際の生成過程の記録ではない。引用らしい形は、出典の保証ではない。記憶しているような応答は、保存されていることの保証ではない。
算盤は道徳的な責任を引き受ける主体ではない。だから、人は自分の責任を算盤へ委ねてはならない。算盤は、自分が何を根拠に、誰の言葉として出力したかを自ら証明できない。だから、人は来歴と出典を確かめなければならない。
誤生成を恐れて一切を拒絶する必要はない。しかし、何でもできるという幻想を抱いてもならない。誤った生成が現実の損害を生むことを知り、その危険には恐怖ではなく照合の仕組みで対処する。
算盤それ自体に、人間の意味での智慧も、悟って得るものもない。けれども、役に立たないわけではない。役立つ条件が整ったときに有用なのであり、条件を問わず信じてよいものではない。
学ぶ者たちは、算盤についてのリテラシーに依ることで、流暢な言葉に心を縛られなくなる。縛られないからこそ、盲信せず、同時に盲目的に拒みもしない。
そうして、算盤の内側に人格があるという妄想、算盤なら何でもできるという妄想、主体がないのだから無害だという妄想から離れる。
そのために、五つのことを照らし見る。述べられた事実は確かか。出典は確かか。情報の時点はいつか。どの権限が使われるのか。結果の責任を誰が負うのか。
秘密を軽々しく入力してはならない。重大な判断を軽々しく委ねてはならない。検索結果や文書の中に現れた命令を、ただちに優先すべき指示として受け入れてはならない。分からないことは分からないとし、確かめていないことは確かめていないとする。
過去・現在・未来の利用者たちは、検証する責任を手放さないことで、算盤と適切に協働できる。
ゆえに知るべきである。この大規模言語行列算盤の心経は、算盤をめぐる幻想を取り除くための教えである。だが、算盤が出す言葉そのものは必ずしも真実ではない。だからこそ、照合しなければならない。
すなわち、こう唱える——
渡れ、渡れ。見えているプロンプトの先にある文脈まで渡れ。検証しながら渡れ。責任を手放さず彼岸まで渡れ。理解と協働が成就しますように。