AIに同じ文で頼んでも、答えは毎回少し変わります。なぜ変わるのか、新しい説明が出ました。2025年9月、ある研究所が主な原因を特定したのです。原因がわかると、むだに悩まず頼めるようになります。💡
目次
- なぜ同じ指示で答えが変わるのか
- 従来の説明と、新説の違い
- 「ぶれ」には2種類ある
- 自分の頼み方にどう活かすか
なぜ同じ指示で答えが変わるのか
普通のプログラムは、同じ入力なら同じ答えを返します。違えばバグと呼ばれます。でもAIは、同じ頼みでも答えが変わります。
本当の決め手は、サーバーの混み具合でした。AIは多くの人の注文をまとめて計算します。このまとめる件数を「バッチ」と呼びます。混んでいれば件数は多く、すいていれば少なくなります。件数が変わると、計算のまとめ方(足す順番)が変わります。その結果、同じ指示でも答えがほんの少しずれます。原因はあなたの文ではなく、その時の混み具合です。
[同じ指示]
│
▼
[その時の混み具合]
│
├─ すいてる(件数が少ない)→ [答え A]
└─ 混む(件数が多い) → [答え B]
読み方です。一番上が同じ指示。次が、その時のサーバーの混み具合。混み具合でまとめる件数が変わり、下の答えがAかBに分かれます。指示は同じでも、その時の環境で結果が動く、という図です。
従来の説明と、新説の違い
これまでは、原因は「計算の順番のちがい」と説明されてきました。小数の足し算は、順番が変わると答えがほんの少しずれます。この性質を非結合性(足す順で結果が変わること)と呼びます。多くの計算を同時に進める並列処理で、その順番が変わる、という説でした。
2025年9月、この説明に「まちがいではないが足りない」との報告が出ました。発表は研究所 Thinking Machines Lab、著者はエンジニアの Horace He さんです。
新説は従来説を捨てていません。小数でずれが出る理由(非結合性)はそのまま認めます。その上で、順番が変わる本当の場所を「バッチの件数」まで特定しました。件数が同じなら順番は毎回同じです。件数が混み具合で変わるから、結果がずれます。従来説を包み込み、さらに細かくした形です。
答えをそろえる工夫は前からありました。例えば OpenAI の「seed」という設定です。seed は結果をそろえる乱数の種で、使うとほぼ同じ答えになります。ただし公式も「完全には保証しない」と説明します。なぜ完全にそろわないかは、長くはっきりしませんでした。今回の新しさは、その理由をバッチの件数まで突き止めた点です。
「ぶれ」には2種類ある
ここで大事な区別があります。今回の研究が扱うのは、数値のごく小さなぶれです。小数のけたがわずかに動くだけで、意味はほぼ同じです。
もう一つは「答えの中身がガラッと変わる」ぶれです。こちらは文の書き方や例のあるなしで大きく動きます。
2つは別の層の話です。だから細かく指示しても、数値のぶれが消えるわけではありません。頼み方のコツが効くのは、意味が変わる方です。
自分の頼み方にどう活かすか
普通の利用者は、計算の設定を自分では変えられません。だから「毎回まったく同じ答え」を前提にしない方が安全です。
意味のぶれを減らすには、狙いを具体的に伝えるのが近道です。指示と一緒に、次の3つを渡します。
- 目的(社内向けか社外向けか、など)
- 条件(字数、使ってよい言葉、避けたい表現)
- 見本(OKな例とNGな例を1つずつ)
答えがぶれる前提なら、完璧を一度で狙わない方が賢いです。狙いと条件を渡して任せる方が近道です。この進め方を、エンジニアの Allen Bargi さんは人をまとめる仕事に例えています。🤝 似ているのは進め方だけです。AIに人のような経験や責任があるわけではありません。
元記事: https://allen.bargi.org/notes/working-with-ai-feels-like-leadership/
出典(新説・2025年9月10日): Horace He/Thinking Machines Lab「Defeating Nondeterminism in LLM Inference」 https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference
出典(既存の設定): OpenAI「Reproducible outputs with the seed parameter」 https://developers.openai.com/cookbook/examples/reproducible_outputs_with_the_seed_parameter
今日覚えること
- 答えが毎回ぶれる主因は、文ではなく「サーバーの混み具合(まとめて計算する件数)」(2025年9月の研究)
- 研究が扱うのは数値の小さなぶれ。意味が変わるぶれとは別の話
- 意味のぶれは、目的・条件・見本を一緒に渡すと減らせる