推論モデルの API 料金表の罠について

Posted at 2026-07-13

価格によるモデルの選定

AIモデルを選定してシステムを構築する際、各API価格ページを確認して100万トークンあたりいくらか、のようなという単価の基準があります。

しかし、内部で思考ステップを踏むモデル（RLM: Reasoning Language Models）が主流になってきて、単に単価で比較することは難しいです。

OpenAI のモデル料金ページより
https://developers.openai.com/api/docs/pricing

2026年のスタンフォード大学、UCバークレー、マイクロソフトリサーチ、CMUなどの共同研究チームがこのコスト構造について調査を行ったので、その内容を解説します。

The Price Reversal Phenomenon: When Cheaper Reasoning Models End Up Costing More
価格逆転現象：安価な推論モデルがよりコストがかかる

論文の改定バージョンによって扱うモデルが違っています

API のカタログ上の単価が安いモデルを選んだはずなのに、実際のワークロード（業務やタスク）で運用すると、単価が高いはずのモデルよりも総コストが高くなってしまう現象のことです。

何度も指示をする、内部の思考が長いなど安価でもトークンを大量に消費すればコストは結局高くなってしまうということですね。
感覚的には納得しやすいですね。

研究チームは、以下のモデルを対象に、数学コンペ、QA、コード生成、マルチドメイン推論など9つの多様なタスクにわたってベンチマーク調査を行いました。

結果、21.8% の確率で価格の逆転が起こり、最大では価格の逆転幅が28倍になったケースがありました。

論文より。APIカタログ価格と実際の総コストの乖離について

論文内では、Googleの Gemini 3 Flash と OpenAIの GPT-5.4 で比較していました。
(せっかくならGeminiのモデル同士で比較してほしかったですね)

For example, Gemini 3 Flash's listed price is 80% cheaper than GPT-5.4's, yet its actual cost across all tasks is 38% higher.

Gemini 3 Flash（$3.5）は、GPT-5.4（$17.5）より80%も安いのに総コストはGemini 3 Flashの方が38%高くついた。

MMLU-Pro という高度な推論を必要とするベンチマークでは、Gemini 3 Flashの実際のコストがGPT-5.4の5倍にもなったようです。

論文より。MMLU-Proでのコストの比較

冒頭に述べた通り思考時のトークン消費が大きく影響しています。

同じ問題に同じクエリを投げても、10倍近くのトークン消費量の差も確認されました。試しに思考トークンのコストを除外（入力と最終出力トークンのみで計算）したところ、価格逆転現象の70%が消失することがわかりました。

論文より。消費したトークンの総量を「プロンプト（入力）」「思考（Thinking）」「生成（出力）」の3つに分解して色分け

見積もりは難しいですが、一つの問題として、「同じプロンプトであっても、実行するたびにコストが大きく変動する」という確率的なバラつきがあります。

このバラつきが大きいモデルの場合、複雑なタスクでコストが莫大になる可能性があると言えます。
論文では、繰り返しロールアウトを行うと、最も安価な実行と最も高価な実行の間で最大9.7倍の差が生じることを報告していました。

論文より。シングルターン課題（AIME）およびマルチターン課題（Terminal-Bench 2.0）でのクエリごとのコスト分布

料金表だけではわからないということで、実験的に適切なモデルを選ぶ必要がありそうです。
具体的には、思考トークン数のリアルタイムでの監視など。

OpenAI なら usage.completion_tokens_details.reasoning_tokens です。

あとは月並みですが、タスクの難易度が高い方にフラグシップモデルをぶつけるということですね。

この論文ではしれっと KIMI も入っていて、中国の安価なモデルに対する米国の対抗にも見えますね。