1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

同じ課題を Claude・Gemini・Grok・GPT・Codex に渡して 5 ラウンド比べたら、順位は付けられなかった

1
Last updated at Posted at 2026-10-31

先に結果

同じコードベースから、5 つの AI(Claude・Gemini・Grok・GPT・Codex)に別々の作業場を作り、同じ課題を 5 ラウンド渡して比べました(2026 年 8 月 30 日、実行は 1 日)。

結果は、1 つの順位には決まりませんでした。やった本人の感想は次のとおりです。

順位付けはできない。役割がすごく、役割で任務を任せるべきっていうのは、はっきり言って正しいなとは思った。

以下の評価(順位・テストの件数)は、実験の相手をしていた ChatGPT の評価で、機械で採点した数ではなく、私は再計算していません。本人の言葉とは分けて書きます。

やり方

  • 同じ基準の commit(コードの状態)から、5 つの隔離した作業場を作る。5 つの AI は、互いの結果を見ない。
  • 5 ラウンド。R1 は読むだけ(構造の理解)、R2 は仕様の設計(実装は禁止)、R3 は同じ小さな機能の実装、R4 は壊れた環境のデバッグ、R5 は総合の課題。
  • 先に、各 AI がどう考えそうかの仮説を立てておき、結果と照らした。

結果(ChatGPT の評価・未検証)

  • R2(設計):1 位 Grok、2 位 Claude、3 位 Codex、4 位 GPT、5 位 Gemini。
  • R3(実装):1 位 Claude、2〜4 位は僅差で Grok・GPT・Codex、5 位 Gemini。ChatGPT 自身が、課題が簡単すぎて全員がほぼ同じ解になった、と認めている。
  • R4(デバッグ):5 つとも同じ 1 行の修正で全部のテストが通り、順位は付かなかった。
  • R5(総合):1 位 Claude、2 位 Grok、3 位 Codex、4 位 GPT、5 位 Gemini。
  • 総括:ChatGPT も 1 位を決めず、役割分担を提案した。主担当は Claude、権限の境界の第二意見は Grok、実装の監査は Codex、別案の設計は GPT、局所の速い作業は Gemini。

見ての通り、課題によって順位が入れ替わります。R2 で 1 位だった Grok は R5 で 2 位、R2 で 4 位だった GPT は R3 で 3 位でした。

やった本人の感想(逐語)

評価を求められた本人は、順位を付けずに、感じたことだけを話しています。

  • Claude については「気持ち悪い」と言っています。褒め言葉ではない、と本人が説明していて、理由は、全体を俯瞰してから入るやり方が人間の考え方と逆向きだから、とのことです(要旨)。
  • GPT については「正直GPTを推してる、俺は今回に関して」と言っています。ただし荒さはあった、とも(要旨)。
  • Grok は、モデルというよりエージェントとして考えるのがよさそう、と言っています(要旨、本人も「違うかもしれない」と断っています)。

最終的に、1 年使う中心の AI として残したのは Claude と GPT の 2 つでした(要旨)。

分かったこと・分からなかったこと

分かったこと:

  • 同じ AI でも、課題の種類(読む・設計・実装・デバッグ)で強さが変わる。順位は、課題の選び方で決まる部分が大きい。
  • 簡単な課題(今回の R3・R4)では差が出にくい。差が出たのは設計と総合の課題。

分からなかったこと:

  • 点数は ChatGPT の主観の評価で、第三者の採点ではない。人間の再採点はしていない。
  • 日本語と英語の指示の違い、同じ実験の再現(もう一度やって同じ順位になるか)は、確かめていない。

次にやるなら

同じ課題を複数回走らせて、順位がどれだけ揺れるかを数えます。1 回の順位より、揺れ幅のほうが道具選びの役に立つ、というのが今回の学びです。

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?