0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【2026年10月】主要 LLM TOP 10 を API で実測:スコアと初回応答は別物だった

0
Posted at

主要LLMのランキングとタスク適性を比較する

はじめに

LLM をプロジェクトに組み込むとき、一番手軽な判断は「ランキングを開いて 1 位を選ぶ」ことです。

ただ、ランキングが答えているのは「総合スコアが最も高いのはどれか」であり、こちらが知りたいのは「自分のタスクに向いているのはどれか」です。この 2 つの問いの答えは、想像以上に食い違います。

本記事では、2026 年 10 月 12 日時点の公開ランキング上位 11 モデルに対して、同一のリクエストを API で投げ、usage の中身を記録しました。結果として、ドキュメントに書かれていない挙動が 2 つ見つかっています。

先に、この記事で一番お伝えしたい数値を書いておきます。

総合 1 位のモデルは、1 位を獲得したその設定において、初回トークンまで 748 秒かかります。 一方、2 位のモデルは推論レベルを変えると初回応答が 0.87 秒です。

スコアの差は 13 ポイント、初回応答の差は約 265 倍です。

個人的には、この「順位では見えない差」こそが選定時に効いてくると考えています。


環境

項目 バージョン・値
OS Windows 10 Pro 10.0.19045(Build 19045)
curl 8.13.0(libcurl/8.13.0 Schannel zlib/1.3.1 WinIDN、Release 2025-04-02)
PowerShell 7.6.6
API エンドポイント https://api.crazyrouter.com/v1/chat/completions(OpenAI 互換)
認証方式 Authorization: Bearer <API_KEY>
計測日 2026 年 10 月 12 日
対象モデル ランキング上位 11 件のうち、実際に呼び出せた 8 件 + claude-haiku-5-5、grok-4.6 の計 10 件
スコア出典 Artificial Analysis Intelligence Index v4.3.2

ランキング上位 11 件のうち 3 件は、呼び出そうとした時点でモデル ID が見つかりませんでした。ランキングに載っている型番と、各サービスが実際に提供している型番は別管理であり、更新タイミングも揃っていません。この点は後述します。


計測手順

計測手順:疎通確認、usage の 3 フィールド出力、全モデルに同一リクエスト

1. 疎通を確認する

API キーは環境変数に入れ、コードには書きません。

export API_KEY="あなたのキー"
curl -s -X POST https://api.crazyrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-haiku-5-5",
    "messages": [{"role": "user", "content": "Reply with exactly: OK"}],
    "max_tokens": 512
  }'

実際のレスポンス(所要 2.69 秒、要点のみ抜粋):

{
  "model": "claude-haiku-5-5",
  "choices": [{"message": {"content": "OK"}, "finish_reason": "stop"}],
  "usage": {
    "prompt_tokens": 42,
    "completion_tokens": 4,
    "total_tokens": 46,
    "completion_tokens_details": {"reasoning_tokens": 0}
  }
}

2. usage の 3 フィールドを必ず出力する

後述する 2 つの問題は、どちらもこの 3 フィールドを見ていなければ気づけませんでした。

フィールド 見るべき理由
prompt_tokens 実際に送った長さと比較する。大きく乖離していれば固定オーバーヘッドがある
reasoning_tokens 見えないところに消費された枠を把握する
completion_tokens max_tokens と同値なら打ち切られている。本文が空になることもある

3. 同一リクエストを全モデルに投げる

model だけを差し替えて同じボディを順に送り、所要時間と usage を記録します。評価フレームワークは不要で、ループ 1 つで足ります。

対象 10 件はすべて HTTP 200 を返しました。所要時間は 1.80 秒から 7.80 秒の範囲でした。


ハマった点と解決方法

ハマった点 1:hi の 2 文字に対して prompt_tokens が 4223 だった

gpt-6.1-sol に、本文が hi だけのリクエストを送ったところ、次の値が返りました。

"prompt_tokens": 4223

同時刻に claude-sonnet-5-5 へ 18 トークン相当のリクエストを送った場合は、prompt_tokens は 18 です。2 回再計測しましたが、4223〜4227 で安定していました。

つまり、このモデルには 1 回の呼び出しあたり約 4200 トークンの固定入力オーバーヘッドが存在します。

影響:入力が数千トークンある長文タスクでは誤差の範囲です。しかし「1 回あたり数十トークンの短いリクエストを 1 日に数十万回」という構成では、このオーバーヘッドが請求額の主成分になります。

解決方法:自分のユースケースで最も短いリクエストを 1 回送り、usage.prompt_tokens を想定長と突き合わせます。確認は 10 秒で終わりますが、本番投入後に桁が違うと気づく事態を避けられます。

ハマった点 2:max_tokens は応答長の上限ではなかった

glm-5.3 に max_tokens=64 を指定したところ、本文がほぼ空で返ってきました。usage を見ると原因が分かります。

"completion_tokens": 64,
"completion_tokens_details": { "reasoning_tokens": 60 }

出力 64 トークンのうち 60 が推論に消費され、本文に残ったのは 4 トークンでした。

max_tokens=512 に変更して再送すると、出力 34 トークン・うち推論 32 で、本文は正常に返りました。同じリクエストを claude-sonnet-5-5 に送った場合、reasoning_tokens は 0 です。

原因:このモデルは推論が既定で有効であり、推論トークンが max_tokens の枠を消費します。「想定する回答の長さ」を基準にこの値を設定すると、エラーにならないまま空の本文が返ります。

解決方法:usage.completion_tokens_details.reasoning_tokens を必ず出力し、max_tokens は推論分を見込んで余裕を持たせます。既定で推論が有効なモデルは一通り確認しておくと安全です。

補足:ランキングの型番がそのまま使えるとは限らない

上位 11 件のうち 3 件は、モデル ID が見つからず呼び出せませんでした。

特に注意が必要なのは Grok です。ランキングに載っている構成は **Grok 4.7(xhigh)**ですが、実際に呼び出せたのは Grok 4.6 でした。別バージョンであり、同一モデルの別名ではありません。したがって 4.7 のスコアを 4.6 の判断材料にすることはできません。

解決方法:順序を逆にします。先に「自分が呼び出せる型番」を確定させ、その型番のスコアをランキング側で探します。型番を推測して組み立てると、存在しないモデル ID を叩くことになります。


まとめ

総合スコア上位 11 件(2026 年 10 月 12 日時点)

順位 モデル(構成) スコア タスク費用(USD) tok/s 初回応答
1 Claude Opus 5.5(max with fallback) 58 5.98 96 748.61 秒
2 Claude Sonnet 5.5(max with fallback) 56 5.46 137 484.09 秒
3 Claude Fable 5.1(max with fallback) 53 7.63 65 250.30 秒
3 GPT-6 Astra(max) 53 3.26 64 383.62 秒
3 Gemini 4 Argon(high) 53 1.99 未報告 未報告
6 GPT-6.1 Sol(max) 52 0.72 65 330.58 秒
7 Muse Spark 1.3(max) 48 1.60 121 48.89 秒
8 Grok 4.7(xhigh) 46 3.74 83 88.14 秒
8 MiMo-V2.6-Pro 46 0.13 48 3.51 秒
10 Qwen3.8 Max(0902) 45 5.41 36 2.82 秒
10 GLM-5.3(max) 45 2.01 66 3.36 秒

同点は同順位としているため、「TOP 10」に 11 件が含まれます。

推論レベルは順位より効く

ランキングが表示しているのは各モデルの最高スコア構成です。運用では、どのモデルを選ぶかより、どの推論レベルで動かすかの方が効く場面が多くあります。

モデル 推論レベル スコア タスク費用(USD) 初回応答
Claude Opus 5.5 max 58 5.98 748.61 秒
Claude Opus 5.5 high 54 1.82 44.34 秒
Claude Opus 5.5 medium 51 1.34 21.61 秒
GPT-6.1 Sol max 52 0.72 330.58 秒
GPT-6.1 Sol medium 48 0.21 7.55 秒

推論レベルを下げた場合の比較:スコア 58→54、費用 5.98→1.82 USD、初回応答 748.61→44.34 秒

Opus 5.5 を max から high に落とすと、スコアは 4 ポイント下がりますが、タスク費用は約 70 %、初回応答は約 94 % 減ります。GPT-6.1 Sol を max から medium に落とした場合は、同じく 4 ポイント減で、初回応答は約 98 % 減です。

個人的には、推論レベルは「既定値」ではなく「検証対象のパラメータ」として扱うべきだと考えています。推論は難問向けのスイッチであり、常時オンにするものではありません。ハマった点 2 は、推論が不要なタスクで既定有効になっていた結果とも言えます。

タスク別の選び方

タスク 候補 理由 投入前に確認すること
アーキテクチャレビュー、重要なリファクタリング(オフライン) claude-opus-5-5 スコア 58、本期最高 まず high で同じ検証を通す。通れば max は不要
日常のコーディング、対話的な利用 claude-sonnet-5-5 137 tok/s、medium の初回応答 0.87 秒 平均ではなく P95 のレイテンシを測る
コーディングエージェント、多段のツール呼び出し claude-fable-5-1 Agent 系評価での位置が総合順位より上 自分の harness で測る。スキャフォールド依存が大きい
夜間バッチ、長文レポート(出力量を抑えたい) gpt-6-astra 1 タスクあたり出力が約 27K トークン 1 件完了までの総出力トークンで比較する
予算を抑えつつ高めの能力が必要(オフライン) gpt-6.1-sol 50 点台で費用が 1 USD 未満の唯一の構成 先に prompt_tokens を確認(ハマった点 1)
大量の分類・タグ付け、自社環境での運用 mimo-v2.6-pro 0.13 USD、初回応答 3.51 秒、オープンウェイト 合否基準を先に決める。順位だけで除外しない
短い出力で初回応答を速くしたい qwen3.8-max 初回応答 2.82 秒で最速。ただし出力速度は最も遅い 初回応答と総所要時間を分けて測る
バランス重視、ツール呼び出しも使う glm-5.3 3 指標に大きな弱点がない max_tokens に余裕を持たせる(ハマった点 2)
チケット分類など高スループットの単純処理 claude-haiku-5-5 235 tok/s、0.21 USD。TOP 10 圏外 実際の同時実行数で負荷をかける

最後の行がこの記事の主旨です。スコア 43 のモデルが、タスク次第でスコア 58 のモデルより適切になります。

本記事の限界

  • スコア・費用・速度・初回応答は公開ランキングの値であり、筆者がベンチマークを再実行したものではありません。自分で測ったのは疎通とトークン計測のみです。
  • 収集日は 2026 年 10 月 12 日です。収集日は各モデルの測定日ではありません。
  • この指数は英語・テキスト中心の評価です。画像入力、音声、多言語の能力は別評価です。日本語タスクの指標として読むことはできません。
  • 呼び出せなかった 3 件については、適性の判断を行っていません。

参考リンク

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?