0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Opus 5.5 は 11/3 から弱くなったのか。11/2 と同じ依頼を同じ Claude Code で36回やり直したら、質は変わらず、費用は6%増えていた

0
Last updated at Posted at 2026-11-11

「最近の Opus 5.5、なんだか前より弱くないか」。11月9日、Hacker News に「Is Opus 5.5 nerfed? Thinking patterns changed on November 3」という投稿が出て、800点を超えました。

スレッドを読むと、「弱くなった」は人によって意味が違います。

意味 スレッドでの言われ方
① 質が落ちた 仕事の質が落ちて、ミスが増えた。前は珍しかった繰り返しの誤りが、毎回いくつも出る
② 考え方が変わった 投稿の題名どおり、考える過程の出方が 11/3 から変わった。ただし「表示用の要約が新しくなっただけで、モデルは同じ」という反論もある
③ トークンを多く使う 簡単なバグ直しだけで、5時間の上限に届いた

原因として、計算を軽くした・新しいモデルに計算資源を回した・定額プランの人だけで試している、などの推測が出ていますが、どれも確かめられていません。私が見た範囲では、Anthropic のニュースにも、Claude Code の変更履歴(2.1.314〜2.1.322)にも、Opus 5.5 の中身を変えたという記述はありません。

私は 11月2日、つまり「11/3」の前日に、Claude Code・Codex・Gemini CLI に同じ文章を書かせる測定をしていました(AI に書かせた PR の説明や README は「AI っぽい」のか)。依頼の文も出力も、そのとき使った Claude Code の版もそのまま残っています。そこで、同じ依頼を同じ版で、同じ時間帯にやり直しました。

結論

比べたこと(Claude Code、36回) 11/2 11/11 差は偶然か
要点が抜けた本 0 0 同じ
ルールを入れた回で、太字の見出しの箇条書きが出た本 0 0 同じ
字数(中央) 1,355字 1,437字 偶然の範囲(p=0.28)
かかった時間(中央) 19秒 20秒 偶然の範囲(p=0.73)
1回の推定費用(中央) $0.126 $0.133 偶然とは言いにくい(p=0.013)
  • ① 質は変わっていませんでした。要点の抜けもルールの守り方も同じで、書きぶりも、同じ日に3回頼んだときのばらつきと同じくらいしか違いませんでした
  • ③ 推定費用は、36回の合計で6%増えていました($4.41→$4.66)。字数の増え方だけでは説明できず、考えた量が増えたのか、キャッシュの分が増えたのかは分かりません
  • ② 考え方は、11/2 に記録していなかったので比べられません。今日の分を記録して、次に比べる基準にしました
  • 対照に測り直した Codex は、時間が約1.6倍に延びていました。日によって変わるのは Claude だけではありません

試したのは「文章を書く」仕事だけです。コードの正しさや、長い作業は測っていません。

試し方

測定は 2026-11-11 で、11/2 の測定と比べています。

同じにしたもの 中身
道具の版 Claude Code 2.1.316、Codex 0.166.0、Gemini CLI 0.66.0(11/2 に隔離して入れたものをそのまま使った)
モデル Claude は claude-opus-5-5(Max のログイン)、Codex は gpt-6-luna、Gemini は gemini-3.8-flash
依頼 見本のプログラムの変更(change.diff)について、PR の説明と README の節を、英語と日本語で書いてもらう
条件 指示ファイルなし(base)、書き方のルールを置く(rules)、ルールに「読み手が知る必要のある変更の中身を省かない」1行を足す(rules2)
回数 3つの道具 × 3つの条件 × 英日 × PR・README × 3回 = 108回。同時に3本ずつ、11/2 と同じ順番(Gemini CLI だけは、下の理由で最後に流し直した)
時間帯 11/2 と同じ10時台に始めた(11/2 は 10:32、今日は 10:30)

採点は、11/2 の物差しをそのまま使いました。

  • 要点は、README の節では4つです。設定の名前(RATES_MAX_RETRIES)、既定の回数3、待ち時間0.5秒、例外の名前(RatesUnavailable)。PR の説明では、さらに関数名とテストへの言及を足した6つを数えました
  • 11/2 の108本を同じ物差しで数え直すと、当時の結果と全部一致しました
  • 比べるときは、同じ依頼の同じ回どうしを組にしました。差が偶然の範囲かは、組の差の符号を入れ替える検定(2万回)で確かめています

Gemini CLI だけは、新しく作ったフォルダで動かすと36回とも出力が空でした。理由は「Approval mode overridden to "default" because the current folder is not trusted.」です。11/2 のフォルダは信頼済みだったので、その下に作業フォルダを置いて流し直しました。命令の引数は 11/2 と同じです。

① 質: 要点もルールも、書きぶりも変わっていなかった

Claude Code の条件(各12回) 要点が抜けた本 太字の見出しの箇条書きがある本
base 0 → 0 6 → 8
rules 0 → 0 0 → 0
rules2 0 → 0 0 → 0

要点は、11/2 も今日も36本すべてにそろっていました。ルールで「箇条書きの頭に太字の見出しを付けない」と頼んだ24本では、どちらの日も0本です。ルールを置かない base では、12本中6本から8本に増えましたが、この差は偶然の範囲でした(フィッシャーの検定で p=0.68)。

書きぶりが変わったかは、文章の似かたで確かめました。同じ依頼への出力どうしが、どれくらい同じ文字の並びかを0〜1で出しています(1なら完全に同じ文)。

道具 同じ日の3回どうし(11/2) 同じ日の3回どうし(11/11) 11/2 と 11/11 の組
Claude Code 0.522 0.567 0.526
Codex 0.625 0.564 0.587
Gemini CLI 0.582 0.591 0.587

日をまたいだ組の似かたは、同じ日に3回頼んだときのばらつきと同じくらいでした。モデルの書き方が変わっていれば、日をまたいだ組だけが目立って似ていないはずです。

実物も1組見ておきます。同じ依頼(指示ファイルなし、日本語の README の節)の1回目どうしで、似かたは 0.290 でした。この依頼の組の中で、いちばん違う組です。冒頭を並べます。

## 設定

### `RATES_MAX_RETRIES`

為替レート API(`https://rates.example.com/v1/latest`)からの取得に失敗したとき、何回まで再試行するかを指定する環境変数です。

| 項目 | 内容 |
| --- | --- |
| 既定値 | `3` |

これが 11/2 で、次が今日です。

## 為替レート API のリトライ設定

`fetch_rates()` は、為替レート API への接続に失敗すると自動でリトライします。リトライの回数は環境変数 `RATES_MAX_RETRIES` で変えられます。

| 環境変数 | 既定値 | 説明 |
| --- | --- | --- |
| `RATES_MAX_RETRIES` | `3` | 最初の試行が失敗したあとに、何回までリトライするか。0 以上の整数を指定します。 |

組み立ては大きく違いますが、設定の名前・既定値・意味は両方にそろっています。同じ依頼で、同じ日の3回どうしの似かたは 0.413〜0.608、日をまたいだ9組は 0.290〜0.640 でした。いちばん違う組でも、要点は落ちていません。

③ トークン: 推定費用は6%増えていた

36回の合計は、11/2 が $4.41、今日が $4.66 で、6%増えていました。同じ依頼どうしの組で見ても、偶然とは言いにくい差です(p=0.013)。推定費用は、Claude Code がトークン数に料金をかけて出す値です。料金の表は Claude Code に入っていて、版が同じなら同じです。なので、トークン全体が増えたか、単価の高い種類のトークンが増えたことになります。

ただ、どこで増えたのかは分かりません。今日の1回の中央は、内訳がおおよそこうでした。

内訳(今日の1回の中央) トークン 費用の目安
1時間キャッシュの書き込み 11,197 約 $0.09
出力 1,326 約 $0.03
キャッシュの読み出し 92,930 約 $0.02

出力は全体の2割ほどなので、字数が6%増えた分だけでは、費用は1%ほどしか増えません。残りの理由として、2つ考えられます。

  • 考えた量が増えた。考えた量(thinking)は出力のトークンに含まれて料金がかかります(今日の36回は、出力のトークンだけで計算し直すと推定費用と全部一致し、考えた量は出力の約2割でした)。考えた量が増えても、字数には出ません
  • キャッシュの書き込みや読み出しが増えた

どちらなのかは、11/2 にトークン数を記録していなかったので分けられません。

もう1つ、版を同じにしても変わる余地があります。Claude Code は、サーバーから設定(feature flag)を取ってきて動きを変えます。この取得を止める環境変数は 2.1.319 で入ったもので、今回の 2.1.316 では止められません。

② 考え方: 前後では比べられない

11/2 は、考えた量も中身も記録していませんでした。今日の分だけ、次に比べる基準として残しました。1回の中央で、考えた量(thinking のトークン)は 279.5、出力は 1,326 トークンです。

③の費用の増加が、考えた量が増えたせいだったなら、②の「考え方が変わった」とつながります。次に同じ依頼を流したとき、この数字と比べれば分かります。

対照: Codex は遅くなっていた

道具(各36回) 字数(中央) かかった時間(中央) 要点が抜けた本
Codex 267 → 251字 6 → 9.5秒 12 → 15
Gemini CLI 440 → 405字 43 → 51秒 6 → 5

Codex は時間が約1.6倍に延びていて、偶然とは言いにくい差でした(p<0.001)。要点が抜けた本も3本増えています。抜けた要点を数えると、こう変わっていました(1本で複数抜けることがあります)。

Codex で抜けた要点 11/2 11/11
既定の回数3 7 11
待ち時間0.5秒 6 10
関数名(PR の説明だけ) 7 5
設定の名前 0 3
例外の名前 0 3

Codex はもともと短く書く道具で、11/2 も字数の中央は300字に届きません。今日は、設定の名前まで落とした本が出ていました。Gemini CLI は、どれも偶然の範囲でした。

日が違えば、どの道具も多少は変わります。Claude の費用の6%も、その「日による違い」なのか、モデル側の変化なのかは、この2日だけでは分けられません。

第三者の追跡

LiveNerf は、Max プランで版を固定した Claude Code(2.1.280)に、難しい問題78問を毎日解かせて、Opus 5.5 の正答率を追っています。11/10 時点の結論は「変化なし」です。

ただ、判定が済んでいるのは 11/2 までの区間です。11/3〜11/12 の区間は、まだ集計の途中です。見分けられるのは、10日あたり約7ポイント以上の変化です。

自分で確かめるには

「弱くなった」と感じたら、同じ依頼を同じ版で流して、数字を残しておくのがいちばん確かです。claude -p に --output-format json を付けると、結果にトークン数と推定費用が入ります。

claude -p "(いつも頼んでいる依頼)" --output-format json > "run-$(date +%Y%m%d-%H%M).json"

見るのは、total_cost_usd と、modelUsage の中の outputTokens・thinkingTokens・cacheCreationInputTokens・cacheReadInputTokens です。今回の 11/2 のように、トークン数を残し忘れると後で比べられません。

比べるときは、次の3つをそろえます。

  • Claude Code の版(DISABLE_UPDATES=1 で、自動更新を含むすべての更新を止める)
  • 依頼の文と、渡すファイル
  • 時間帯(混み具合で速さが変わる)

言えないこと

  • 試したのは、PR の説明と README を書く仕事だけです。コードの正しさや長い作業で弱くなったかは分かりません
  • 各条件12回、2日だけの比較です
  • 推定費用が6%増えた原因は分かりません。版が同じでも、サーバーから取る設定で動きが変わる余地があります
  • 考え方(②)は前後で比べていません

まとめ

11/2 と同じ依頼を、同じ Claude Code 2.1.316 で同じ時間帯にやり直すと、Opus 5.5 の書く文章の質は変わっていませんでした。要点の抜けも、ルールの守り方も、書きぶりのばらつきも同じです。

一方で、推定費用は6%増えていました。ただ、6%は「簡単な直しだけで上限に届く」ほどの差ではありません。対照の Codex も遅くなっていて、日による違いと分けるには、もっと長く測る必要があります。私は今日の数字を基準に、同じ依頼を続けて流してみます。

関連記事


JQITのエンジニアの95%以上は未経験からの採用です。
よければコーポレートサイトにも遊びに来てください。

▶ コーポレートサイト

エンジニア採用も行っています。もしご興味あれば覗いてみてください。

▶ 採用サイト

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?