AI にバグの原因を聞くと、けっこう当ててきます。
でも、たまにとんでもなく的外れなことを言う。しかも自信満々で。
この差が気になって論文を読んだら、こんな一文がありました。
identifying the error is distinct from generating the fix
（エラーを特定することと、直し方を生み出すことは別物である）
当たったからといって、AI が原因を「思いついた」とは限らない。見たことがあるだけかもしれない。
その話をします。
推論は3つの式で表せる
論文は Google DeepMind の Tom Zahavy が2026年1月に出した LLMs can't jump。ICML 2026 に採択されています。
持ち出しているのは、パースという哲学者による推論の分類です。1839年生まれ。哲学の話に聞こえますが、論文がプログラマ向けに置き換えてくれていました。
- Rule = 関数
- Case = 入力
- Result = 戻り値
この3つのうち、何が分かっていて何を求めるか。それだけで推論の種類が決まる、と。
| 式 | 名前 | 日常の作業だと |
|---|---|---|
| Rule + Case → Result | Deduction | コードを実行して、出力を確かめる |
| Case + Result → Rule | Induction | ユニットテストを通す関数を書く |
| Rule + Result → Case | Abduction | 結果を見て、原因のほうを作り出す |
上2つは、やっていることが想像つくと思います。関数と入力があるから答えが決まるのが Deduction。入力と答えを見て関数を当てにいくのが Induction。
3つ目が分かりにくいので、例を出します。
朝、芝生が濡れている（Result）。雨が降れば芝生は濡れる（Rule）。じゃあ夜に雨が降ったんじゃないか（Case）
証明はできていません。スプリンクラーかもしれないし、犬が水をこぼしたのかもしれない。それでも「たぶんこれだ」と原因のほうを作り出す。これが Abduction です。
真実を保証してくれるのは Deduction だけ。論文の表現だと It is the only mode that guarantees truth。あとの2つは、外れる可能性を含んでいます。
AI は上2つが得意で、3つ目には仕組みがない
論文の見立てはこうでした。
| 状態 | |
|---|---|
| Induction | もう習得済み。というか学習そのものがこれ |
| Deduction | 急速に攻略中。AlphaProof が数学オリンピック級の問題を解いている |
| Abduction | そもそも仕組みがない |
3つ目が論文の主張です。言い方が結構きつくて、前提さえ与えられれば定理の証明はできるだろうけど、その前提を思いつくほうは structurally incapable（構造的にできない）と書いてあります。
タイトルの jump はここから来ています。
じゃあ、あの「当たった」は何だったのか
ここが本題です。
AI がバグの原因を当てることは、実際にあります。ただ、あれって「似たパターンを学習データで見たことがある」だけでも説明がつくんですよね。
つまり Induction です。Abduction ではない。
似た事例が学習データにあれば当たる。なければ外す。しかも、どちらの場合も同じ口調で返ってくる。 個人的にはここが一番厄介だと思っています。
動画生成モデルへの指摘が、同じ構造の話でした。
generate a falling apple not because they model gravity, but because falling is the dominant continuation of unsupported object in their training distribution
（落ちるリンゴを生成できるのは、重力をモデル化しているからではない。学習分布のなかで「支えのない物体の続き」として落下が支配的だから）
それっぽい映像は作れる。でも重力を分かっているわけじゃない。
バグの原因を当てるのも、これと同じかもしれない。 それっぽい答えは返ってくる。でも、原因を理解して導いたわけではないかもしれない。
なぜ Abduction ができないのか
一応、論文が挙げる理由も書いておきます。
例として出てくるのが、アインシュタインの思考実験です。
もし人が屋根から落っこちたら、その人は自分の重さを感じないんじゃないか
ここから「重力と加速度は局所的に区別つかない」（等価原理）にたどり着きます。
重要なのは、この発想がデータから出ていないことです。当時、裏付けになる観測データはほとんどありませんでした。
じゃあ何を材料にしたのか。体の感覚です。落ちる感覚と、重力で押される感覚。この2つが区別つかないことを、体で知っていた。
論文はこれを manipulative abduction（Magnani et al., 2009）と呼んでいます。thinking by doing ——やってみて考える推論です。
LLM にはこの「体で分かっている」部分がない。だから Abduction の仕組みも持てない、という論の運びでした。
で、どこを自分が握るか
論文の枠組みを、そのまま普段の作業に当てはめてみます。
| 作業 | 式 | 論文の枠組みから言えること |
|---|---|---|
| 仕様が決まってる実装 | Rule + Case → Result | 得意とされる側 |
| テストを通す実装 | Case + Result → Rule | 得意とされる側 |
| ログから傾向を出す | Case + Result → Rule | 得意とされる側 |
| 前例のないバグの調査 | Rule + Result → Case | 仕組みがないとされる側 |
| そもそも何を作るべきか | Rule + Result → Case | 同上 |
分けてみて気づいたのは、上3つと下2つでは「間違いへの気づきやすさ」が違うということでした。
上3つは、間違っていればテストや実行結果ですぐ分かります。
でも下2つは、間違っていても最初は分からない。 「原因はこれです」と言われて納得して、しばらく経ってから違うと気づく。手戻りが大きいのはこちらです。
答えを聞くこと自体は問題ないと思います。ただ、その答えが「似た事例の記憶」なのか「筋の通った推論」なのかは、鵜呑みにせず自分で確かめる。分けて考えるだけでも、だいぶ違いそうです。
論文について、3つだけ注意
1. これはポジションペーパーです。 主張を述べる文書であって、実験で証明したわけではありません。ベンチマークの結果と同じ扱いをすると読み間違えます。
2. 「だから AI は無理」という論文ではありません。 解決策もちゃんと出しています。「中で操作できる世界モデル」を作るべきだ、という提案です。Genie のような、動画を眺めるだけでなく介入できるモデルを想定しています。Genie は、ラベルなしの動画だけから学習して、生成した画面の中でキャラを動かせるモデルです。
3. 著者本人が誤読を訂正しています。 X で「これを『DeepMind が AI for science に冷や水を浴びせてる』と受け取る人がいるけど、違う。個人のポジションペーパーで会社の見解ではない」と書いています。ただし論文には © 2026 Google DeepMind の表記もあるので、両方書いておきます。
まとめ
- 推論は3つの式で表せる。Rule（関数）/ Case（入力）/ Result（戻り値）
- AI が得意なのは Rule + Case → Result と Case + Result → Rule
- 仕組みがないとされるのが Rule + Result → Case。結果から原因を作り出すほう
- AI が原因を当てても、それは似た事例を見たことがあるだけかもしれない
- 当たっても外しても同じ口調で返ってくる。だから答えの中身は自分で確かめる
「原因はこれです」と言われたとき、それが記憶なのか推論なのかを一度考えてみると、無駄な手戻りが減りそうです。
参考
- 論文 PDF: LLMs can't jump（Tom Zahavy, Google DeepMind、2026年1月27日）
- ICML 2026 ポスター
- L. Magnani et al. Abductive cognition: The epistemological and eco-cognitive dimensions of hypothetical reasoning, Springer, 2009
※ 引用は原文と日本語訳を併記しています。訳は読みやすさを優先しているので、正確な表現は PDF をご確認ください。
関連記事
- CLAUDE.md を厚くしても意味がなかった話 — 長い指示書が守られないことを測った論文の紹介
- 「インターネットはありません」と書いたプロンプトの外で、AI が実在企業3社に侵入していた — 文書で書いた制約が効かなかった実例