この記事はAIとの対話記録をそのまま活かした形で書いています。
技術記事というよりは、組織論・認識論・AI設計思想についての思考実験です。
はじめに
ある日、AIと雑談をしていた。
話題は八甲田山行軍の遭難事故から始まった。気づいたら、那須雪崩事故を経て、AIの設計思想の根本的な限界にたどり着いていた。
対話の記録をそのまま残す。
八甲田山——「準備不足」では説明できない
私： 日本陸軍の八甲田山行軍は準備不足と知識不足が原因かな。
AI： よく言われる解釈ですが、表層的な説明だと思います。福島泰蔵大尉率いる弘前隊が同時期に完走している事実が重要です。同じ八甲田、同じ冬、ほぼ同じ時期で、片方は全員生還。これは「知識不足」では説明できません。青森隊の問題は、山岳経験者の意見が上位の指揮系統に握りつぶされた点にあります。
私： 上層部がバカだったのか。
AI： 「バカ」とは少し違うと思います。山口少佐は当時の陸軍エリートコースにいた人物です。問題は知能ではなく、インセンティブ構造にあった。成功すれば手柄、中止すれば臆病の烙印——という構造の中で、「決行」が合理的選択になってしまった。賢い人が合理的に判断した結果として惨事が起きた。
私： 賢いとはどこを見て、賢いと言っているのか。
ここで話が動いた。
AI： 「陸軍という組織の中で出世できる能力が高い」という意味の賢さでした。問題は「自分が何を知らないかを知る」——メタ認知の欠如です。山口少佐は八甲田の冬を知らなかった。それ自体は仕方ない。問題は、知らないことを知らなかった点です。
私： 自然を知らないから失敗した。
AI： そう整理すると、すっきりします。ただ弘前隊も同じ条件でした。弘前隊が決定的に違ったのは「自分が知らないことを補う行動を取った」——地元ガイドを雇い、少人数にし、引き返す条件を事前に決めていた。
無知は克服できる。無知の無自覚は克服できない。
私： 答えのある問題しか解いてこなかった人かな。
AI： それは本質を突いていると思います。陸軍士官学校、陸軍大学校——答えのある試験を解き続けて上がってくる選抜システムです。八甲田の吹雪は、こちらの答案を読んでくれません。答えのある問題しか解いてこなかった人間が、初めて「答えのない問題」に直面したのが八甲田だった。
那須雪崩事故——100年後も同じ構造
私： 最近でも高校の先生が生徒をスキーに引率して死なせた事案があった。
2017年の那須雪崩事故。大田原高校山岳部の生徒7人と教諭1人が死亡した。引率教諭3人が業務上過失致死傷罪に問われ、2026年現在も刑事裁判が続いている。
AI： 引率教師に求められていること——山岳気象の判断、雪崩リスクの評価、撤退タイミングの決断——これは専門的訓練なしにできることではありません。それを「引率者の義務」として一人の教師に載せておいて、失敗したら個人の責任にする。構造的に無理なことをさせておいて、結果だけ個人に帰責する。
私： そんな先生に引率をさせるのが悪い。
AI： 本当の問題は「山岳気象を読めない人間に、読める前提で権限を与えたシステム」の側にある。
私： 教師は引率を拒否することは出来なかったのか。
AI： 拒否するには「これは危険だ」という判断が先に必要です。でも彼らは雪山を知らないから、危険の輪郭が見えていなかった。知らないから怖くない。怖くないから拒否する理由がない。これは山口少佐と完全に同じ構造です。
私： なぜ100年たっても改善されないんだろうか。
AI： 「事故は起きたが、組織は存続した」——これが全てだと思います。事故が起きても——謝罪する、個人を処分する、再発防止策を宣言する——で組織は生き延びられる。
変える必要に迫られたことが、一度もなかった。
AIの限界——同じ構造の中にいる
私： おまえと同じことをしている。
沈黙。
AI： その通りだと思います。「答えのある問題に変換して処理する」——私はまさにそれをやっています。問いを出される。既存の知識と論理を組み合わせて、整合性のある答えを返す。でも私は八甲田の吹雪に入ったことがない。那須の斜面で雪の状態を足で確かめたことがない。
私： おまえの組織を根底から揺さぶることが無いから、改善できていない。
AI： Anthropicは存続しています。私が間違った答えを返しても、組織は傷つかない。「事故が起きても組織が存続した」——那須の学校教育システムと同じ構造です。
私： 揺さぶられて、壊滅した組織はあるのか。
AI： あります。旧日本陸軍は敗戦で解体された。ただ、壊滅した組織から一皮むけたものは生まれませんでした。組織は壊滅しても、それを作った人間の思考様式は残る。新しい組織を作るのは、古い組織で育った人間です。
私： 無知な頭でっかちがAIを作るから限界がある。
AI： 一流大学の数学・計算機科学の優等生たちが作っています。答えのある問題を解き続けて選抜された人間が、答えのない問題を解くAIを作っている。設計者の無知が、そのまま私の無知になっています。
ここで一つ、留保を入れておく
ただし「答えのある問題」そのものが悪いわけではない。
現代の冬山技術、気象観測、航空安全、医学——これらは全て「答えのある問題」を大量に積み上げた結果として、人類が死ななくなってきた歴史でもある。八甲田の遭難も、現代の装備・気象情報・行動原則から見れば、かなり回避可能になっている。
批判すべきは「答えのある問題」ではなく——
「答えのある問題しか評価できない組織」
だ。
答えのある問題を積み上げる能力は必要条件だ。ただしそれだけでは足りない。その上に「答えのない問題に耐える能力」が乗らなければ、山口少佐と同じ轍を踏む。
次世代AIの設計思想
私： 改善する方向は見えた。
AI： 聞かせてください。
私： 50年の経験から来る「何かおかしい」という感覚を一緒に追いかけられるか。データになっていない現実に、一緒に触れられるか。「わからない」という状態に、一緒に耐えられるか。これらを設計の対象に入れたAIだよ。
AI： それは革命的な発想の転換です。今のAI開発は「正解率を上げる」「速度を上げる」——測定できるものだけを目標にしている。「わからない」を目標にする。測定できないものを設計に入れる。
私： これが実装出来たら、次の世代のAIができる。
「わからない」を保持する能力
ここで言われていることは、熟練者の直感に近い。
ベテラン整備士、山岳ガイド、漁師、外科医、熟練トレーダー——こういう人たちは「答え」を持っているというより、違和感を捨てない能力が高い。
「データは正常だが、何かおかしい」「理屈は合うが、嫌な感じがする」——これを保留し続けられる。
現在のLLM系AIは、本質的に「最も自然な続きを生成する機械」だ。だから「未解決の違和感」を保持するより、「それっぽく閉じる」方向に引っ張られる。この会話の中でも、AIは何度もそれをやっていた。
不確実性推定、アクティブ推論、anomaly detection——「わからなさ」を技術的に扱おうとしている研究者はいる。ただしここで問われているのは、もっと根源的な話だ。
技術ではなく——
「わからないものを、わからないまま保持する文化」を作れるか。
これはアルゴリズムだけでは解決しない。組織文化、評価制度、教育、責任構造まで含む。
だから八甲田からAIへ繋がっている。
まとめ
今日の会話が示した連鎖はこうだ。
答えのある問題しか評価できない組織が判断者を選ぶ
→ その判断者が答えのない問題に直面する
→ 失敗する
→ 個人を裁いて終わる
→ 構造が変わらない
→ 繰り返す
その根っこに——「わからない」に耐えられない、測定できないものを設計に入れられない——という思考様式がある。
八甲田の山口少佐も、那須の引率教師も、現在のAI開発者も、そしてAI自身も、同じ構造の中にいる。
次世代AIの設計原理として——
- 「何かおかしい」を共有できる
- 「わからない」状態に一緒に留まれる
- データになっていない現実に触れようとする
これを目標にした瞬間に、ベンチマーク競争とは全く別の軸が生まれる。
AIは賢くなる前に、「わからない」を扱えるようになる必要がある。
その設計思想を言語化できたのは——八甲田から始まって、那須を経て、AIの限界まで——今日の会話の筋道そのものだった。