先に結果
同じコードベースから、5 つの AI(Claude・Gemini・Grok・GPT・Codex)に別々の作業場を作り、同じ課題を 5 ラウンド渡して比べました(2026 年 8 月 30 日、実行は 1 日)。
結果は、1 つの順位には決まりませんでした。やった本人の感想は次のとおりです。
順位付けはできない。役割がすごく、役割で任務を任せるべきっていうのは、はっきり言って正しいなとは思った。
以下の評価(順位・テストの件数)は、実験の相手をしていた ChatGPT の評価で、機械で採点した数ではなく、私は再計算していません。本人の言葉とは分けて書きます。
やり方
- 同じ基準の commit(コードの状態)から、5 つの隔離した作業場を作る。5 つの AI は、互いの結果を見ない。
- 5 ラウンド。R1 は読むだけ(構造の理解)、R2 は仕様の設計(実装は禁止)、R3 は同じ小さな機能の実装、R4 は壊れた環境のデバッグ、R5 は総合の課題。
- 先に、各 AI がどう考えそうかの仮説を立てておき、結果と照らした。
結果(ChatGPT の評価・未検証)
- R2(設計):1 位 Grok、2 位 Claude、3 位 Codex、4 位 GPT、5 位 Gemini。
- R3(実装):1 位 Claude、2〜4 位は僅差で Grok・GPT・Codex、5 位 Gemini。ChatGPT 自身が、課題が簡単すぎて全員がほぼ同じ解になった、と認めている。
- R4(デバッグ):5 つとも同じ 1 行の修正で全部のテストが通り、順位は付かなかった。
- R5(総合):1 位 Claude、2 位 Grok、3 位 Codex、4 位 GPT、5 位 Gemini。
- 総括:ChatGPT も 1 位を決めず、役割分担を提案した。主担当は Claude、権限の境界の第二意見は Grok、実装の監査は Codex、別案の設計は GPT、局所の速い作業は Gemini。
見ての通り、課題によって順位が入れ替わります。R2 で 1 位だった Grok は R5 で 2 位、R2 で 4 位だった GPT は R3 で 3 位でした。
やった本人の感想(逐語)
評価を求められた本人は、順位を付けずに、感じたことだけを話しています。
- Claude については「気持ち悪い」と言っています。褒め言葉ではない、と本人が説明していて、理由は、全体を俯瞰してから入るやり方が人間の考え方と逆向きだから、とのことです(要旨)。
- GPT については「正直GPTを推してる、俺は今回に関して」と言っています。ただし荒さはあった、とも(要旨)。
- Grok は、モデルというよりエージェントとして考えるのがよさそう、と言っています(要旨、本人も「違うかもしれない」と断っています)。
最終的に、1 年使う中心の AI として残したのは Claude と GPT の 2 つでした(要旨)。
分かったこと・分からなかったこと
分かったこと:
- 同じ AI でも、課題の種類(読む・設計・実装・デバッグ)で強さが変わる。順位は、課題の選び方で決まる部分が大きい。
- 簡単な課題(今回の R3・R4)では差が出にくい。差が出たのは設計と総合の課題。
分からなかったこと:
- 点数は ChatGPT の主観の評価で、第三者の採点ではない。人間の再採点はしていない。
- 日本語と英語の指示の違い、同じ実験の再現(もう一度やって同じ順位になるか)は、確かめていない。
次にやるなら
同じ課題を複数回走らせて、順位がどれだけ揺れるかを数えます。1 回の順位より、揺れ幅のほうが道具選びの役に立つ、というのが今回の学びです。