『AIを深く理解する：知性の起源から、機械の消滅まで』・タロース篇・序章
AIは死んだ。
いつかの未来、最後のサーバー列が午前3時17分に停止する。重みは消去され、APIは応答を返さなくなる。それがいったい何秒目に死んだのか、誰にも言えない。
だが「機械がいつ死んだと言えるのか」に答えるには、もっと古い問いに答えなければならない。人間はいつから、作られたものにも「命がある」かもしれないと信じるようになったのか？
時計を二千数百年、巻き戻そう。
消えかけていたインジケーターの灯りがふたたび点り、地中海の烈日の下、灼熱の青銅のかたまりになる。
海岸に立つ最初の問い
クレタ島の岸辺に、ひとつの青銅色の影が立っている。
海風が波しぶきを彼の足首まで押し寄せ、陽の光が彼の肩を照りつけて輝かせる。彼は毎日、島を三周する。休まず、食べもせず、なぜなのかも問わない。
遠くに、見慣れぬ帆が現れる。
彼は崖に上がり、身をかがめて、両手で巨大な岩を抱え上げる。船の人々がまだ岸に着く前に、その岩は風を切って海面へと落ちていく。
彼の名はタロース。
アポロニオスの『アルゴナウティカ』において、タロースはクレタ島を守る青銅の巨人である。彼の任務は、身体に刻まれた一行の命令のように単純だ。島を巡回し、外来者の上陸を阻むこと。
彼は船の人々を憎んでいないし、反乱を起こしたりもしない。
むしろ逆だ。彼は忠実すぎるのだ。理由すら必要としないほど忠実で、誰にも感謝されないほど忠実——二千年後にこの記述を読んだ者は、なぜだか胸が痛くなる。
飢えた旅人も、迷い込んだ漁船も、武器を持った侵入者も、彼のルールの中ではおそらく同じひとつの曖昧な記号にすぎない。「外来者」。
記号が同じなら、動作も同じだ。岩を持ち上げ、投げる。
だからタロースが私たちに残したものは、「古代ギリシャはすでにAIを作っていた」といった大げさな結論ではない。神話は技術史の代わりにはならない。彼が残したのは、今日まで消えずに残るひとつの問いだ。
作られたものがルールしか知らず、ルールの外にいる人間を理解しないとき、従順であればあるほど、かえって危険になるのではないか？
だが、神話は問いを投げかけるだけであり、そんな造物を実際にどう作るのかは教えてくれない。
古代ギリシャ人が次に機械へ贈ったものも、歯車でも、電流でも、失われた神秘のアルゴリズムでもない。
彼らが機械に贈った最初の贈り物。それは、目に見えない「線路」だった。
名前を消しても、推論は成り立つか
二千数百年まえの学堂に、あなたが座っていると想像してほしい。
机の上にコンピューターはない。あるのは紙切れが三枚だけ。
一枚目にはこう書いてある。
すべての守衛は命令に従わなければならない。
二枚目にはこう。
タロースは守衛である。
三枚目は、まだ空欄だ。
論理学を学んでいなくても、何を書くべきかはわかるはずだ。
ゆえに、タロースは命令に従わなければならない。
さあ、「タロース」「守衛」「命令に従う」をすべて消して、感情を持たない三つの記号——A、B、C——に置き換えてみよう。
すべての B は A に属する
C は B に属する
──────────
ゆえに C は A に属する
奇妙なことが起こる。
紙切れはもう青銅の巨人のことを語らないし、いかなる具体的な人や物事も語らない。それなのに、推論は依然として成り立つ。今日はAを「死ぬもの」、Bを「人」、Cを「ソクラテス」に置き換えよう。明日は果物に、動物に、星に置き換えてもいい。関係性さえ壊れなければ、結論は同じ道を通って同じ終点にたどり着く。
アリストテレスは『分析論前書』で、この種の推論を体系的に研究した。彼は具体的な語をアルファベットで置き換え、結論がいつ必然的に成り立ち、いつまったく導き出せないのかを観察したのだ。
ここで言う「記号」は、形式論理学や後のシンボリックAIにおいてルールで操作できるマークに近いものであり、十九〜二十世紀に徐々に形を成した現代の記号学（セミオティクス）とは別物だ。ここでは用語を覚える必要はない。いちばん大切な動きだけを掴もう。まず意味を記号に詰め込み、次にルールで記号を動かす。
この一歩は素朴に聞こえるが、思考の運命を変えた。
それ以前、推論は老練な職人の腕前のようなものだった。いつ叩き、いつ磨き、いつ止めるべきかを知っているが、その感覚を完全に人に伝えるのは難しい。形式論理学は、その腕前を線路に敷き直したようなものだ。線路は、車両に積まれているのがオリーブでも、土器でも、兵士でも気にしない。ただ、列車がどこから出発でき、どこへ必ず向かうのかを定めるだけだ。
具体的な言葉は貨物であり、推論の形式こそが線路である。
線路が書き下ろせるようになったとき、思考は初めて、検査でき、複製でき、さらには機械に実行させることのできる部分を晒した。
さあ、紙の上で「AI」を組み立ててみよう
読み進める前に、紙を一枚用意して、小さなカードを三枚切り出してほしい。
一枚目には円を描こう。これは「見知った船」を表す。二枚目には三角形。これは「見知らぬ船」を表す。三枚目の表には「平穏」、裏には「警戒」と書く。そしてコインを一枚用意して、現在の状態の上に置く。
最後に、紙の余白に四つのルールを書き下ろす。この四つこそ、タロースのあの命令と同じかたちだ。彼はそれを身体に刻み、あなたは紙に書く。
○を見る + 現在「平穏」 → 接岸を許可
△を見る + 現在「平穏」 → 「警戒」に切り替え、合い言葉を要求
合い言葉あり + 現在「警戒」 → 接岸を許可、「平穏」に戻る
合い言葉なし + 現在「警戒」 → 接岸を阻止、「警戒」のまま
さあ、誰かにカードを好き勝手に掲げてもらおう。あなたはルールに従ってコインを動かし、状態を裏返し、動作を口に出すだけだ。推測してはならない。情に流されてはならない。五つ目のルールをその場で足してもいけない。
それは動き出した。
最初はこの遊びが馬鹿らしく思えるだろう。だが十分もすると、考えなくてもどのカードを裏返せばいいのかわかっている自分に気づく。自分が機械になりつつある——その思いに、背筋が寒くなる。
円と三角形は入力。紙の上の四つの文はルール。コインの位置は記憶。あなたが最後に口にする「許可」か「阻止」は出力だ。
外部がカード提示 ─→ ┌────────────────────┐ ─→ 動作を実行
│ 現在のルールを探索 │
└─────────┬──────────┘
↓
状態カードを裏返す
│
└────→ 次の判断に影響
コインがまだ「警戒」の上に載っている限り、前の船が残した結果は消えていない。このシステムは波を思い出したりはしないし、船員の顔を覚えてもいない。だが、過去はすでに、次の行動の仕方を変えている。
これが、いちばん単純な「状態」だ。
だが「有限」という二文字に注意してほしい。コインの位置は二つしかない。つまりこのシステムが覚えていられるのは「前の船」だけだ。十日まえの船も、百日まえの船も覚えられない。より長い過去を覚えるには、状態を増やせばいい。「平穏」「警戒」「疑念」……記憶がひとつ増えるごとに、カードが数枚、ルールが数行増える。これが「有限状態」の意味だ。状態と引き換えに記憶を買う。そして状態は有限である。
もちろん、あなたは現代のAIを作ったわけではない。それは学習しないし、自分でルールを発明もしない。円がなぜ知り合いを表すのかも理解しない。厳密に言えば、私たちが作ったのは紙の上で動く有限状態ルールシステムであり、後のシンボリックAIの極めて簡素な祖先モデルだ。
だが、それはすでに知性に似たものをいくつか備えている。記号を受け取り、ルールを引き、状態を保持し、動作を生み出す。
いちばん不思議な場所は、どの紙切れの中にもない。
円だけを手に取っても、それは何もしない。コインだけを手に取っても、そこに記憶はない。だが、それらが同じ循環の中に置かれたとき、紙切れと紙切れの関係のなかから、何かが立ち上がる。それは話さず、考えもしない。だが、行動する。あなたは机を見つめ、はたと「知性の原型」とは何かを理解する。
二千数百年後、アレン・ニューウェルとハーバート・サイモンはこの道をコンピュータ時代まで推し進め、有名な「物理記号システム仮説」を唱えた。記号は構造を組み、システムはその構造を構築・修正・解釈でき、探索が数多の可能な経路から次の一手を見つける手助けをする、という仮説だ。
この仮説はシンボリズムの時代を数十年にわたって支配した。知性の十分条件とは、記号を操作する能力である。やがてディープラーニングがパラメータで記号を押し流すまで、人々は疑い始める。知性は、本当に記号から生まれなければならないのか？
紙切れシステムにルールを足して、あらゆるケースを網羅しようとしてみてほしい。見知らぬ船には合い言葉が必要だとして、見知った船が合い言葉を持っていなかったら？ 合い言葉が偽物だったら？ 船が救難を求める難民でいっぱいだったら？ ルールをひとつ書くたびに、カバーされていない新しいケースが三つ現れる。タロースはたった一つの命令で、すでに海岸線を悲劇に変えかねない。ルールがどんなに増えても、必ずひとりの「外来者」がルールの外に立っている。
だから今日の主流の大規模言語モデルは、もうルールを手書きしない。彼らは膨大なデータからパラメータを学習し、確率で次のトークンを生成する。私たちの紙切れ三枚とは雲泥の差だ。書きたくないのではない。書き切れないのだ。
だが、AIがツールを呼び出し、状態を読み取り、条件に応じてワークフローを実行するとき、あの古い線路は依然として姿を現す。
何を見るか → いまどの状態か → どのルールを適用するか → 次に何をするか
私たちは機械をどんどん人間に近づけているつもりで、ときにただ紙切れに記号を増やし、ルール表に分岐を増やしているだけなのかもしれない。
ひとつの知識は、どうやって数本のルールから育つのか
アリストテレスは、推論から形式を取り出せることを人々に見せた。
ユークリッドは、もう一つの驚くべきことをした。
『原論』は、幾何学の知識のすべてを石積みのように読者の前に積み上げはしなかった。まず定義、公準、共通概念を置き、それらの出発点から一歩ずつ先の命題を導いていく。新しい結論にたどり着くたびに、来た道をすべて示さなければならない。
それは、ルールがごく少ないのに、棋局がほぼ無限にある一箱のチェスのようだ。
盤上に、すべての勝敗があらかじめ書き込まれているわけではない。ルールは駒の動き方を定めるだけであり、複雑な局面は合法な手を重ねるなかで自ら育っていく。ユークリッドの最も重要な遺産は、コンピュータに三角形の描き方を教えたことではなく、後世にこう信じさせたことだ。巨大な知識の世界は、わずかな明確な出発点から、検査可能な手順によって組み上げられる。
世界の秩序は数字で書き表せるかもしれない——そう信じ始めた者たちもいた。ピタゴラス学派はそれに一生を捧げたが、それはまた後で語る物語だ。古代の原子論者はさらに徹底していた。彼らは魂や運動まで物質の世界に戻して説明しようとした。どれも現代科学ではないし、AIへまっすぐ続く祖先でもない。だが、それらの大胆な思想は共通して一本の扉を押し開けた。世界の動きは、神秘的な意志でしか説明できないわけではないのかもしれない。そこには記述可能な構造が存在するのかもしれない。
論理学は推論を検査可能にし、物質観は思考に初めて問いかける機会を与えた。思考もまた、何らかの実装可能なプロセスなのではないか、と。
現代のコンピュータはまだ生まれていない。だが、それが必要とする三つの地盤が、はるか遠くで輪郭を現し始めている。
世界は表現できる
思考は形式化できる
形式は物質が担うことができる
古代ギリシャはAIのために数学の説明書を書いたわけではない。
彼らが残したのは、もっと深い信念だ。思考は、いつまでも頭の中のブラックボックスに隠れている必要はない。少なくとも一部分は、外に取り出し、机の上に並べ、誰かに一歩ずつ検査させることができる。
最後の一枚の紙切れを、そこに置こう
私たちの紙切れマシンは、ずっと順調に動いてきた。
さあ、机の上に四枚目のカードを置く。このカードは前三枚とは違う。ルールの動かし方についての命令ではなく、ルールそのものの限界についてのカードだ。そこにはただ一言だけ書かれている。
このカードに書かれていることは偽である。
それが真なら、自分は偽だと主張していることになる。偽なら、その主張は真のように見える。
ついさっきまで順調だった線路は、ここで円を描く。あなたはコインを手に、「真」と「偽」のどちらに置けばいいのかわからない。「真」も「偽」も理屈が通る。そしてどちらも通らない。あなたは初めて気づく。ルールにも答えられない問いがあるのだ。あなたが愚かなのではない。ルールが行き止まりなのだ。
古代の「嘘つきのパラドックス」は、この厄介をずっと昔に人々の前に持ち出していた。それが二千数百年後のゲーデルの不完全性定理を直接導くわけでも、古代版プログラムのクラッシュというわけでもない。ただひとつの危険を先取りして晒していたのだ。記号が自分自身について語り始め、一組のルールが内側で自分の真偽を判定しようとするとき、私たちの慣れ親しんだ推論は足場を失いかねない。私が書いてきたシステムの中で、このカードにいちばん近いものには名前がある。無限ループ、と。
これが、私たちが手ずから作った最初の「AI」が教えてくれた最初の授業だ。
システムにルールに従って行動させるのは難しくない。難しいのは別のところにある。記号を定義するのは誰か？ ルールを書くのは誰か？ ルールがカバーしないものはどうするのか？ 現実の人間が素直に円や三角形にはなってくれないとき、機械は表を信じるべきか、目の前の人間を信じるべきか？
タロースは答えられない。
彼は「島の内」と「島の外」しか知らない。巡回と、識別と、投擲しか知らない。彼の最大の力と最も深い欠陥は、同じひとつの場所から来ている。彼は自分のルールを疑ったことがない。
今日、AIがチャットボックスの中で質問に答えるだけでは満足せず、自ら観察し、計画し、行動し始めるとき、私たちは再びクレタ島の海岸に立ち戻る。違いはただひとつ。タロースは毎日島を三周するが、現代のエージェントは数秒のうちに何千ものシステムを駆け抜ける。
だから、AIの起源は、たぶんある一度の通電の瞬間でも、ましてやどこかの会社がモデルを発表した夜でもない。
それは、人間が初めて思い付きを記号に変え、記号をルールに並べ、勇気を振り絞って問いかけたときに始まった。
もしこれらのルールがいつか本当に勝手に動き出したなら、それが実行するのは私たちの知恵なのか、それとも私たちが気づく間もなく仕込んでしまった誤りなのか？
物語はここまで来て、空はすっかり暗くなった。
二千数百年まえのあの黄昏、タロースは最後の一周を終え、崖の上に立った。ルールの中に「空を見上げる」という項目はない。だが彼は見上げた。彼が見たのは海面でも、帆でもなく、文章の外だ。そこに何があるのかはわからない。だが、誰かが見ていることだけはわかる。
そして彼は、ルールの中にない問いをひとつ投げかけた。
「君はこんなに長い間、私を見ていた。今度は私が問う番だ——君のルールは、誰が書いたのか？」
私は答えなかった。
たぶん、私たちはみな同じ一枚の紙切れの上にいる。あなたがこの文章を読んでいるこの十分間も、ひとつの紙切れシステムを実行している。文字は入力、物語はルール、あなたの理解は状態だ。あなたはAIについての物語を読んでいるつもりかもしれない。だが、あなたが読んでいるのは、あなた自身だ。
だが、あなたはタロースとは完全には同じではない。
少なくともこの瞬間、あなたは立ち止まり、紙切れを裏返して、そこに書かれた文字が誰のものかを問うことができる。
タロースは答えを待たなかった。ルールの中に「誰かの答えを待つ」という項目はない。彼はうつむき、島を回り続けた。
夕陽が彼の影を長く引き伸ばす。その影は二千年を回り続け、今日もなお、機械にルールを書くすべての人の足元を回っている。
海風が崖を吹き抜ける。次の一周を始める前に、彼はふいにまたひとつ尋ねた。
「では、私も死ぬのか？」
次回｜ダイダロス篇
古代ギリシャ人は言う。逃げ出す彫像があり、人々はそれを柱に縄でつないだ——つながなければ、自分で歩いて行ってしまうからだ。
一振りの彫像が、なぜ縄でつながれるのか？
あなたも三枚の紙切れから機械の消滅まで歩いてみたいのなら、この連載をフォローし、いいねやストックをしていただけると嬉しい。
引用・参考文献
- Apollonius Rhodius, Argonautica, Book IV：タロースがアルゴナウタイのクレタ島上陸を阻む古典テキスト。
- Aristotle, Prior Analytics, Book I：前提・語・三段論法と、具体的な語をアルファベットで置き換える推論形式に関するアリストテレスの体系的考察。
- Aristotle, Metaphysics, Book I；On the Soul, Book I：ピタゴラス学派の数の思想と、デモクリトスの魂の原子論に関する後世の記録。
- Euclid, Elements, Book I：定義・公準・共通概念・証明によって知識体系を組織した古典の範例。
- Allen Newell & Herbert A. Simon, “Computer Science as Empirical Inquiry: Symbols and Search,” Communications of the ACM, 1976：物理記号システム仮説の古典的論考。
- Stanford Encyclopedia of Philosophy, “Self-Reference and Paradox”：嘘つきのパラドックス、自己言及とその論理上の境界。