最近のAIには、答える前に頭の中で長く考えるタイプがある。この「考え」を途中で打ち切れば、返事は速く安くなるはずだった。でも実際は打ち切れていなかった、という分析が出た。

私たちが使うAIの速さや料金、それに安全チェックにも関わる話だ。研究チームが調べ、自然言語処理の国際会議EMNLP 2026に採択された。論文もコードも公開されている。

目次

🙉 「考えるのをやめて」をAIは聞き流す

まず用語を一つ。推論モデルとは、ひとことで言うと「答える前に下書きのように考えを書き出すAI」だ。多くは考えの終わりに </think> という区切りの合図を置き、その後に答えを書く。

速く安くしたい人は、この合図を途中で無理やり差し込む。「もう考えなくていい、答えて」と割り込ませるわけだ。これを途中打ち切りと呼ぶ。

ところが合図を差し込んでも、AIは止まらない。答えの側に移ってから、また考えをだらだら続けてしまう。研究チームはこれを「見せかけの打ち切り」と名づけた。

どれくらい起きるのか。実験は数学や理科の問題5種類と、複数の推論モデルで行われた。大きめのモデルでは、最大で約4割のケースでまた考え出していた。しかも考え直したときの答えは、素直に答えたときより2〜22倍も長かった。これでは速さも安さも消えてしまう。

なぜ止まらないのか。差し込んだ合図に、AIがほとんど注意を向けていなかった。人に「はい、そこまで」と言っても、聞こえなければ話し続けるのと同じだ。

そこで研究チームは、その合図にだけ注意を強める小さな調整を足した。名前はEAB。ある設定では、また考え出す割合が16%から4%に下がった。答えの長さも半分近く(約47%)減り、正解率もわずかに上がった。

うれしいのは、この調整が学習のやり直し不要で使える点だ。実務では既存のモデルにそのまま足せるのがありがたい。ただし万能ではない。大きいモデルでは効きが弱かった。打ち切りの癖は、注意不足だけが原因ではないらしい。訓練で染みついた行動でもある、と著者は見ている(ここは解釈)。

図で流れをつかもう。

ねらい: 長い思考 →[合図を差し込む]→ 短い答え
実際:   長い思考 →[合図を差し込む]→ また長い思考…→ やっと答え

矢印は処理が進む向き、[ ] は割り込ませる「考え終わり」の合図だ。ねらいでは合図のあとすぐ答えるはずが、実際は合図をまたいで思考が続いてしまう。

この結果は二つの意味で刺さる。一つは費用だ。考えを削って節約したつもりが、答えがふくらんで帳消しになりうる。効果を文章の長さ(トークン数)で測るなら注意が要る。思考側だけでなく、答え側も足して見ないと判断を誤る。

もう一つは安全だ。AIの「考え」の部分を見張って、危ない兆候を探す運用が増えている。だが考えは答え側にも漏れ出す。区切りの合図だけで「ここから先は答え」と信じるのは危うい。形式の記号をそろえても、中身の切り替えが起きるとは限らない。設計上の教訓として重い。

コードはここで読める。

※本記事は一次情報の調査をAIが行い、事実確認のうえ執筆・公開しています。