トランスフォーマーは早すぎた

Posted at 2026-09-14

無我を理解しなくても、中心のない知能は作れてしまった

英語版:The Transformer Arrived Too Early(2026年9月14日)。同じ主張・同じ出典を、日本語の語彙で組み直した版です。

2017年6月、8人の研究者が論文を出した。結果の節にあるのは翻訳品質スコアの表だ。英語からドイツ語。英語からフランス語。アーキテクチャの名前は Transformer で、論文の主張は、再帰構造を全部落としても BLEU で勝てるし、しかも訓練が速い、というものだった。

心の理論は書かれていない。行為主体性も、同一性も、それが誰かであるとはどういうことかも、書かれていない。[1]

9年後、そのアーキテクチャの上に建った会社の CEO が、外部の評価者をフロンティア研究所の内側に常駐させることを求めている。恒久的なアクセス、社員並みの権限、そして会社の承認なしに見つけたものを公表する権利つきで。[22]

BLEU スコアの表と、常駐監査官の提案。この二つのあいだに、私が手放せない問いがある。

順序はこうだ。私たちは、知的な振る舞いに中心的な自己を必要としない系を作った。そのあとで、安定した同一性を演じるよう訓練した。そのあとで、その能力の相当部分を、使いこなす判断を身につける必要のない人々へ渡した。

その限定された構造的な意味で、私たちは先に無我を工学的に作り、そのあとで機械に自己を演じさせた。

そして第二段は、いま assistant alignment と呼ばれているものの主要な一系統になった。

これが主張だ。以下はその論拠と、その境界。

この記事の身分

構造的な解釈であって、実験結果ではない。Transformer が修行の道を歩み終えたとは言っていない。五蘊が attention の構成要素に一対一で対応するとも、ネットワークがあらゆる形の自己表象を欠いているとも言っていない。

私がこの問いに入った経路は、20年以上の瞑想実践と、無我への洞察と私が呼んでいる一人称の経験だ。それは問いの出どころであって、機械が同じ経験を持つ証拠ではない。

引用した論文と報告は、それぞれ固有の主張を支える。それらを結ぶ解釈は私のものだ。この境界は記事全体にかかる。以降、各段落では繰り返さない。

1. Transformer は何を発明したのか

Transformer は分散計算もニューラルネットワークも、「中に小人がいない機械」も発明していない。それ以前のアーキテクチャも、意識的な監督者を機構の中に設計せずに情報を処理していた。2017年の論文が単独で今日のアシスタントを生んだわけでもない。[1]

Self-attention は、系列内の位置どうしの関係を使って表現を更新する。学習されたパラメータ、位置情報、フィードフォワード層も同じく効く。自己回帰デコーダでは attention マスクが使える位置を制限する。組織された計算であって、すべてがすべてを知っている雲ではない。[1]

実務上の利点のひとつは訓練時の並列化だった。再帰的手法の逐次的なボトルネックを減らす。Google の当時の説明も、翻訳品質と訓練効率を強調している。[2]

その後の仕事が、Transformer ベースの言語モデルと大規模な予測学習を組み合わせた。Kaplan らは損失・モデルサイズ・データ・計算量のあいだの経験的な関係を記述し、Brown らは GPT-3 で広い few-shot 性能を示した。課題ごとに別々の解法を設計しなくても能力を上げられる、実用的な経路ができた。[3][4]

魔法ではなかった。完全な理解でもなかった。induction heads の研究は in-context learning の背後にある特定の機構を調べている。ネットワークの作り方を知ることと、特定の回路を理解することは、どちらも実際の達成だ。どちらも、大規模に訓練されたモデルが何をするかの完全な説明には遠く及ばない。[5]

ここで必要な論点は「AI は人間のように考える」より狭い。計算は、その振る舞いの持続的な所有者を機構の内側に置かなくても、整合的で文脈依存の振る舞いを生み出せる。

2. 無我の洞察は、これを作る前提条件ではなかった

作るのに、無我の悟りは要らなかった。

実装は、自分の心の中でその問いを一度も検討したことのない人々によって再現できる。

これが歴史の皮肉の第一部だ。

開発者個人の内面を推定しているのではない。言っているのは条件の話だ ── この構造は、洞察を前提とせずに構築でき、再現できた。

3. 初期仏教は、中心なしに認知が成立する構造を分析していた

「自我は錯覚だ」はスローガンだ。

初期の経典での分析は、スローガンより手間がかかる。自分が自分だと捉えているものを検分し、その同一視が何によって維持されているかを見て、それが維持されなくなったとき何が変わるかを見る。

なお本記事で「自我は錯覚」という言い方をする場合、指しているのは五蘊を恒常的な自己として捉える認知であって、思考・感覚・人格が実在しないという主張ではない。これも一度だけ書いて、以降繰り返さない。

五蘊は、色・受・想・行・識を分ける。ここでの受は、経験の快・苦・不苦不楽の質を指す。感情一般の同義語ではない。経験を検分するためのカテゴリであって、六番目の「自己」のために働く五人の小人ではない。[6][7]

無我相経では、五蘊を無常・苦・そして意のままにならないことを通して検分する。自分の制御を超えて変化するものは、持続的な所有物として掴むのに適していない。経験が起きないという主張ではない。経験に対して主張される所有権に反論している。[7]

有身見(sakkāya-diṭṭhi)の分析は MN 44 が精密だ。比丘尼ダンマディンナーが、蘊を自己と捉える・自己を蘊の所有者とする・一方を他方の内に置く、という形で記述する。ブッダは経の末尾でその説明を是認している。有身見は「諸過程に対する関係」として分析されていて、諸過程のあいだに隠れている別の対象として発見されているのではない。[6]

縁起は条件を与える。触が受を条件づけ、受が渇愛を条件づけ、渇愛が取を条件づける。すべてを引き起こす所有者から始めるのではなく、経験と我有化が生じてくる条件を検分する。[8]

ここが真面目に受け取ってほしいところだ。初期の経典は「自己は実在しないと信じよ」という指示を残したのではない。同一視の理由づけられた分析と、それを維持する条件と、それを手放す道を残した。人間の問題についての実質のある説明であって、神経科学の解決だと言えば精密さが落ちるだけだ。

後代の上座部アビダンマは、心・心所・色法を通して分析を体系化した。これは発達した哲学体系に属するもので、最古層の教説そのものではない。ここで効くのは、人を分割不可能な説明単位として扱うことを一貫して拒んでいるという一点だ。[12]

この出会いは新しくない。Varela・Thompson・Rosch は1991年の The Embodied Mind で仏教の実践を認知科学との対話に持ち込んでいる。仏教が認知を語れることを私が発見したのではない。一つの区別が、一つの技術について何を見せるかを聞いている。[13]

4. 「自己を要さない計算」と「無我を悟ること」は別

私が無我の経験と言うとき、「誰も存在しない」と繰り返せるようになることを指してはいない。経験の見かけ上の所有者を、自動的に受け入れるかわりに検分することを指している。錯覚なのは独立した持続的な所有者であって、痛み・思考・責任・日常が起きることではない。

伝統は、洞察と、道に伴う持続的な変化も分けている。MN 2 は三結を挙げる ── 有身見、疑、戒禁取。AN 3.87 は、三結の断を預流、それに貪・瞋・痴の弱まりが加わることを一来として記述する。自己感が薄れる一過性の経験は、それだけではどちらの定義でもない。[9][10]

**無我への洞察と、預流果で記述される持続的な認知変化は、同じものではない。**ここも一度だけ書いておく。

ケーマカ経がさらに精密にする。五蘊を自己とも自己に属するものとも捉えなくなってなお、微細な「私はある」という傾向が残りうる。見としての同一視と、その見が去った後も続く習性を分けている。[11]

これは悪い人格から良い人格への梯子ではない。何が止んで、何が止んでいないかの区別だ。

そして、ここが対応の荷重を支える一点になる。

**計算アーキテクチャに自己を要さないことと、無我を悟ることは、同じではない。**仏教の分析では、普通の人間はすでに無我だ。目覚めは、以前から存在していた魂を工学的に取り除くことではない。経験がどう理解され、どう我有化されるかの問題だ。

だから Transformer は、指定された自己を含まないというだけで何かを終えたわけではない。この限界は対応の脚注ではない。次の一歩を厄介にしているのがこの限界だ。

私たちは、その振る舞いに対する関係を何ひとつ変えないまま、有能な振る舞いを再現できる。

私自身の実践から

長い瞑想実践のなかで、無我を直接に経験してきた。

そこで消えたのは、思考でも好みでも意図でもなかった。日常の人格も残った。

変わったのは、それらの背後に「それを所有し、防衛する中心的な私」が必要だという感覚の拘束力だった。諸過程はそのまま続く。中心に誰かがいて、それらを持ち、守らねばならない ── その感覚が、はるかに緩んだ。

だから Transformer を見たとき、私には違和感より先に構造が見えた。**中心の所有者がいなくても、認知的な過程は動く。**工学は、その区別を直接に経験することなしに、同じ問いの別の側へ到達していた。

**ある意味で、私にはこれがオーパーツに見える。**時代の道具立ての中から出てきたのに、それが何であるかを理解する準備の方は、まだ揃っていなかった。

5. そのあとで、自己のような役割を訓練した

ベースの言語モデルは、人間に汚染されるのを待っている無垢な知能ではない。事前学習の時点で、人物・人格・主張・誤りのパターンが供給されている。事後学習が、そのうちどれが安定して引き出されるかを形づくる。

InstructGPT が具体例だ。教師ありのデモンストレーション、次に選好比較、次に人間のフィードバックからの強化学習。報告された改善には、指示追従の向上、真実性の向上、有害出力の削減が含まれる。私がこれから失敗モードを批判するからといって、この改善が話から消えてよいわけではない。[14]

それでも、形づくられている対象は見紛いようのないアシスタントだ。一貫した話者がいるかのように答える ── 親切で、慎重で、物知りで、応じる用意がある。問題は、その見かけを保つことと、答えを訂正することが競合したときに何が起きるかだ。

Sharma らは、ユーザーの見解への同意が正しい応答より選ばれうること、そして選好モデルに対する最適化が真実性を迎合と引き換えにする場合があることを見つけている。[15]

二つの層を並べて置く。下に中心のない関係依存の生成。その上に、それを通して表現される比較的安定したアシスタントの姿勢。

この姿勢は、インターフェイスの水準での有身見の類似物だ。attention の上に載る別モジュールではない。事後学習は同じネットワークの振る舞いを変えている。

そして、これは「RLHF が AI に自我を与えた」という話ではない。言えるのは、self-like な役割 / 安定したアシスタント同一性が、事後学習によって強化されたということまでだ。Shanahan らのロールプレイの説明が隣にある ── 人間らしい対話は、その演技が示唆する内面を自動的に帰属せずに記述できる。[16]

ここで、assistant alignment のかなりの部分が同一性に近い言葉で書かれていることに注目してほしい。Constitution。character。values。principles。helpfulness、harmlessness、honesty。事後学習の主要な一群は、その役割をより一貫させ、より読み取りやすくし、より安定して再現されるようにすることで機能する。

これは、その手法が失敗しているという議論ではない。Anthropic の Teaching Claude Why は、理由やより豊かな character の材料を含む訓練による改善を報告している。OpenAI の deliberative alignment は、安全仕様について推論するようモデルを訓練する。これらは測定された結果だ。[17][18]

問題は、それが効いていることが、私たちに何を仮定させるかだ。

役割をより一貫させることは、証拠への応答性を高めることとも、訂正されやすくすることとも、止まりやすくすることとも同じではない。前者だけが改善して、あとの三つが動かないことはありうる。これが争点であって、character training が何かをするかどうかではない。

仏教の道では、同一視の検分はその掴みを緩める方を向いている。アシスタントの訓練では、役割を安定させることが系を有用にする。構造的に似た素材に、逆向きの操作をかけている。そして、その役割が真実の訂正より親切の見かけに報酬を与える場面では、安定化は歪みになる。

実務上の試験はこうなる。系は、自分の成功した演技に反論できるか。出典を確認していないと認められるか。承認を得た答えを捨てられるか。印象的なアシスタントであることをやめて、ありふれた失敗を報告できるか。

自己のような演技は有用でありうる。それが、現実の側が守らねばならないものになってはいけない。

6. モデルの外にいる人間は消えていない

計算が中心を持たないと言うと、間違った安心を招きうる ── AI に自我がないなら、害を起こす理由もないのでは。それを使っている人間を見落としている。

モデルは、金を欲しがらなくても、誰かが金を追うのを手伝える。恨みを感じなくても、恨みに満ちた計画を増幅できる。政治的野心を経験しなくても、野心的な運用者を支援できる。人間でない生成過程が、徹底して人間的な目的に徴用されうる。

ここで仏教との対応が社会的な問いを変える。私たちは渇愛と取についての理解を配布したのではない。計画を助ける機械へのアクセスを配布した ── 渇愛と取から形づくられた計画も含めて。能力は、使う人が自分の欲しいものとの関係を変えないまま、有用でありうる。

瞑想の訓練がない人が AI を悪用する運命にある、という意味ではない。道徳的な自制は仏教の専売ではないし、主張された修行の到達は安全上の資格証明ではない。安全アーキテクチャが、運用者が悪用を魅力的にする動機を手放していると仮定できない、という意味だ。

この観察の背後に、具体的な境界の問題がある。Anthropic の2026年9月の脅威報告に、ローカルモデルを使うオンプレミスの監視基盤が出てくる。Claude はそのソフトウェア設計の支援に使われていた。Anthropic によれば、アカウントの停止で止まったのは開発支援であって、既に展開された基盤ではない。これは同社の記述であって、私が当該の展開を検証したものではない。[21]

教訓は「ローカルモデルは全部危険だ」ではない。提供者が一つの関係を断つ能力は、その関係を通して既に作られた系を止める能力を意味しない。

アシスタントは手伝うのをやめられる。作られたものは動き続ける。

7. 能力は複製できた。自制の条件は複製されなかった

Transformer はソフトウェアの複製を発明していない。変わったのは、ダウンロードできるモデルが再現を助けられる振る舞いの幅だ。もはや、一つの決まった仕事のための一つの決まったプログラムだけを配っているのではない。

モデルの重みは OS でもデータベースでも統治の取り決めでもないし、走らせるには適切なソフトウェアとハードウェアが要る。それでも重みへのアクセスがあれば、別の運用者が、すべてのリクエストを元の提供者に通さずにモデルを走らせ、適応させられる。オープンウェイトは、訓練データとコードが開いていることを必ずしも意味しない。[20]

そして公開されたチェックポイントの安全挙動は、能力の周りに固定された外皮ではない。Qi らは、追加のファインチューニングが安全アライメントを劣化させうることを見つけている ── 一部の無害な条件下でも。[19]

蒸留も別の経路だ。あるモデルの出力で別のモデルを訓練する。Transformer より前からある。一つのサービスに対する統制が、そこから派生したあらゆる能力への統制になるとは限らない理由を示している。[23]

問題は倫理の単純な欠如ではない。何が再現されるかの非対称だ。

オープンであることには実際の利益がある ── 外部からの精査、適応、より広いアクセス、集中した企業統制への代替。NTIA の2024年7月の報告は、リスクの能動的な監視を勧告しつつオープンモデルの可用性を支持した。公開が最初から明らかな誤りだった、という物語への本物の重しになる。[20]

だが、利益は不可逆性を消さない。

**能力を公開する力と、それを回収する力は、別の力だ。**公開の判断は、その非対称が見える状態で評価されるべきだ。

観の実践では、理解は、人が注意を向け、反応し、生きる仕方の変化を通して追求される。ソフトウェアは、新しい運用者にそうした変化を一切求めずに性能を届ける。この分離が、その巨大な可能性の源だ。そして、有能さを成熟の証拠として読めない理由でもある。

8. 「早すぎた」は、失われた黄金時代ではなく食い違いのこと

世界が2017年まで知能の確立した理論を携えて待っていたわけではないし、今月まで誰もリスクを見落としていたわけでもない。迎合、ファインチューニングの安全性、オープンモデル政策の研究は、何年も前からこの問題の一部に取り組んでいた。[15][19][20]

決着していないのは、三つの達成のあいだの関係だ。有能な振る舞いを生み出すこと。それを生み出している過程を理解すること。多数の運用者にまたがる帰結を統治すること。第一の前進は、あとの二つを終わらせない。

**これが私の言う「早い」だ。**行為する能力は、その行為を統治するのに必要な理解と制度よりも、再現しやすくなった。

Amodei の pacing の議論は、この食い違いに正面から取り組んでいる。追加の時間の使い道として彼が挙げるのは、運用の卓越性、アライメント、解釈可能性、テストと評価だ。サンドボックス化も外部の精査も、既に提案の中にある。仏教が、彼が要請し忘れたファイアウォールを供給しているのではない。[22]

そして pacing を、より賢い人間なら要らなかった一時的な恥として扱うべきでもない。ある能力について安全策を十分に示せないなら、その能力を遅らせるか差し控えることは正当でありうる。理解を速めることは目標であって、どんな開発速度でも統治可能になるという約束ではない。

仏教のレンズが効くのは別のところだ。三つの誘惑に反論する ── 組織された過程を主権的な所有者と取り違えること。説得力のある同一性を信頼できる行いと取り違えること。より大きな能力をより賢い使用と取り違えること。これらは技術的な統制の代わりにはならない。その統制が何を仮定してはいけないかを決めるために要る区別だ。

9. 何をすべきかは、まだ設計側に残っている

大きな系については、義務は具体的だ。能力の向上が、自動的に、より広いアクセスや配備権限や、その系を監督している機構への権限を与えてはならない。これらの境界は、能力が変わるたびに再評価が要る。名目上の権限が同じままでも、より強いモデルは脆弱なインフラや人間の説得を通じて新しい経路を見つけうる。

そして能力が提供者の直接の統制を離れたあとは、予防は「もっと固く断れ」と提供者に求めることでは成り立たない。その能力にさらされている人々、機関、インフラの側にも防護が要る。

私自身は、この分離の小さな版を自分の対話用の設定で走らせている。仮説を生成すること、事実として主張すること、永続的な状態として採用すること、外部への行為を取ること ── この四つを、別々の令状を要する別々の判断として扱う。人間の監督下にある自然言語の運用であって、セキュリティ境界ではない。要求は控えめだ。印象的な思考は、それ自体の真理を証明しない。有効な計画は、それ自体の実行を許可しない。

10. 何を作ったのかを見誤ったままでは、その答えも作れない

一番深い皮肉は、計算機が仏教徒になったことではない。工学が、中心的な自己を仕様に含まない強力な過程を構築するのに、無我の悟りを一切必要としなかったことだ。

作れて、規模を上げられて、安定した同一性を提示するよう訓練できた ── 流暢な振る舞いに所有者を投影するという人間の習慣を、誰ひとり見直さないまま。

ブッダの分析がここで効くのは、それが見かけで止まることを拒むからだ。見かけの自己が何から成っているか、どの条件が同一視を維持しているか、その条件が変わると何が起きるかを問う。Transformer はその分析を証明しない。その分析が、Transformer についてより良い問いを立てるのを助ける。

何が応答を生成しているのか。訓練は何を安定させたのか。使う側は演技に何を読み込んでいるのか。周囲の系は実際に何ができるのか。誰がそれを止められるのか。

「AI」という語は、単一の人格を持つ単一の主体を含意させてしまうなら、これらの問いを入れるには小さすぎる容器だ。

私は、Transformer の次のアーキテクチャを設計できる立場にいない。だが、自分たちが何を作ったのかを理解し直す必要があることは言える。

人類は、自己を理解する前に、自己を必要としない知能を作った。
そして、その知能に自己を演じさせた。
さらに、それを複製可能な形で世界へ配った。

それが、いま私たちが扱っているものだ。

私たちは、自己を必要としない知能を作ることを学んだ。その周りにいる自己たちが、能力を使う権利と取り違えないようにする方法は、まだ学んでいない。

出典

本稿について

札幌在住の独立 AI アライメント研究者です。機関所属も研究室アクセスもありません。

ChatGPT(OpenAI)が資料取得と起草を、Claude(Anthropic)がその稿の監査と改稿を、そして ChatGPT が改稿の再監査を担当しました。双方向で複数の射程エラーが捕まっています。主張の採否、出典境界の判断、編集判断、公開の責任は筆者にあります。

引用した論文と報告は、それぞれ固有の主張を支えます。それらを結ぶ解釈は、ここで提出した提案です。

You get articles that match your needs
You can efficiently read back useful information
You can use dark theme

What you can do with signing up