1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AIが同じ指示でも違う答えを返す理由と、頼み方のコツ

1
Posted at

AIに同じ文で頼んでも、答えは毎回少し変わります。なぜ変わるのか、新しい説明が出ました。2025年9月、ある研究所が主な原因を特定したのです。原因がわかると、むだに悩まず頼めるようになります。💡

目次

  • なぜ同じ指示で答えが変わるのか
  • 従来の説明と、新説の違い
  • 「ぶれ」には2種類ある
  • 自分の頼み方にどう活かすか

なぜ同じ指示で答えが変わるのか

普通のプログラムは、同じ入力なら同じ答えを返します。違えばバグと呼ばれます。でもAIは、同じ頼みでも答えが変わります。

本当の決め手は、サーバーの混み具合でした。AIは多くの人の注文をまとめて計算します。このまとめる件数を「バッチ」と呼びます。混んでいれば件数は多く、すいていれば少なくなります。件数が変わると、計算のまとめ方(足す順番)が変わります。その結果、同じ指示でも答えがほんの少しずれます。原因はあなたの文ではなく、その時の混み具合です。

[同じ指示]
   │
   ▼
[その時の混み具合]
   │
   ├─ すいてる(件数が少ない)→ [答え A]
   └─ 混む(件数が多い)  → [答え B]

読み方です。一番上が同じ指示。次が、その時のサーバーの混み具合。混み具合でまとめる件数が変わり、下の答えがAかBに分かれます。指示は同じでも、その時の環境で結果が動く、という図です。

従来の説明と、新説の違い

これまでは、原因は「計算の順番のちがい」と説明されてきました。小数の足し算は、順番が変わると答えがほんの少しずれます。この性質を非結合性(足す順で結果が変わること)と呼びます。多くの計算を同時に進める並列処理で、その順番が変わる、という説でした。

2025年9月、この説明に「まちがいではないが足りない」との報告が出ました。発表は研究所 Thinking Machines Lab、著者はエンジニアの Horace He さんです。

新説は従来説を捨てていません。小数でずれが出る理由(非結合性)はそのまま認めます。その上で、順番が変わる本当の場所を「バッチの件数」まで特定しました。件数が同じなら順番は毎回同じです。件数が混み具合で変わるから、結果がずれます。従来説を包み込み、さらに細かくした形です。

答えをそろえる工夫は前からありました。例えば OpenAI の「seed」という設定です。seed は結果をそろえる乱数の種で、使うとほぼ同じ答えになります。ただし公式も「完全には保証しない」と説明します。なぜ完全にそろわないかは、長くはっきりしませんでした。今回の新しさは、その理由をバッチの件数まで突き止めた点です。

「ぶれ」には2種類ある

ここで大事な区別があります。今回の研究が扱うのは、数値のごく小さなぶれです。小数のけたがわずかに動くだけで、意味はほぼ同じです。

もう一つは「答えの中身がガラッと変わる」ぶれです。こちらは文の書き方や例のあるなしで大きく動きます。

2つは別の層の話です。だから細かく指示しても、数値のぶれが消えるわけではありません。頼み方のコツが効くのは、意味が変わる方です。

自分の頼み方にどう活かすか

普通の利用者は、計算の設定を自分では変えられません。だから「毎回まったく同じ答え」を前提にしない方が安全です。

意味のぶれを減らすには、狙いを具体的に伝えるのが近道です。指示と一緒に、次の3つを渡します。

  1. 目的(社内向けか社外向けか、など)
  2. 条件(字数、使ってよい言葉、避けたい表現)
  3. 見本(OKな例とNGな例を1つずつ)

答えがぶれる前提なら、完璧を一度で狙わない方が賢いです。狙いと条件を渡して任せる方が近道です。この進め方を、エンジニアの Allen Bargi さんは人をまとめる仕事に例えています。🤝 似ているのは進め方だけです。AIに人のような経験や責任があるわけではありません。

元記事: https://allen.bargi.org/notes/working-with-ai-feels-like-leadership/

出典(新説・2025年9月10日): Horace He/Thinking Machines Lab「Defeating Nondeterminism in LLM Inference」 https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference

出典(既存の設定): OpenAI「Reproducible outputs with the seed parameter」 https://developers.openai.com/cookbook/examples/reproducible_outputs_with_the_seed_parameter

今日覚えること

  • 答えが毎回ぶれる主因は、文ではなく「サーバーの混み具合(まとめて計算する件数)」(2025年9月の研究)
  • 研究が扱うのは数値の小さなぶれ。意味が変わるぶれとは別の話
  • 意味のぶれは、目的・条件・見本を一緒に渡すと減らせる
1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?