0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

GitHub Copilot Agent vs Devinを実測で比較してみた話

Posted at

GitHub Copilot Agent と Devin を実測で比べてみた話 ─ タスク依頼〜PR作成までの速度・品質・運用性

GitHub 側に本格的な “エージェント” が入ってきて、さらに外部では Cognition の Devin も話題に上がるようになりました。「どっちを導入すればいいの?」「社内に説明する材料がほしい」という人向けに、同じような従業員管理システムのタスクを投げたときにどう違ったかをレポート形式でまとめます。ベースは社内向けに作った比較資料です。


背景

  • どちらも「AIにタスクを任せてPRまで持ってきてもらう」ことが目的
  • でも 実行場所ワークフローへの入り方 が違うので、現場での使いやすさも変わる
  • 今回は実際に「FastAPI+PostgreSQLで従業員管理システムを作る」というスコープを投げたときの挙動を見ています

それぞれ何者かざっくりおさらい

GitHub Copilot Agent とは

  • GitHub / Microsoft が出している、GitHub上のタスクを自律的に実行するエージェント
  • Issue や PR コメントで依頼すると、一時的なGitHub Actions環境でコードを変更→ブランチ作成→PR作成までやってくれる
  • セキュリティ周りは GitHub のガバナンスがそのまま効く(CodeQL・シークレットスキャン・権限管理・copilot/ブランチ制限など)ので、既存のGitHub運用に載せやすいのが強み

Devin とは

  • Cognition が開発している「自律型AIソフトウェアエンジニア」
  • 独自のサンドボックス上で、計画立案 → 実装 → テスト → ブラウズ → PR/プレビュー提示までを自分で回す
  • ノートに情報を貯めて後続タスクでも使うので、長め・大きめのタスクが得意
  • 大規模ETLの分割などでも実績が出ている(並列・反復に強い)

タスクを投げたときのフローの違い

観点 Copilot Agent Devin
入口 GitHubのIssue / PRで @copilot / VS Codeから依頼 Web UI or GitHub連携で依頼
実行場所 GitHub Actions の一時環境 Devinのサンドボックス環境
成果物 copilot/… ブランチ+PRを自動で作る PRまたはプレビューURLを提示
フィードバック PRコメントしたらAgentが直す コメントすると再実行・再生成する

どちらも「人間が最後にレビューする」前提なのは共通です。なので「AIに丸投げして終わり」ではなく、AIをジュニアエンジニア扱いで回す運用を想定しておくと噛み合います。


実測でどうだったか(速度)

資料上の実測値で見るとこんな感じでした:

  • Copilot Agent

    • 1回目PR: 約30分(APIだけ先にできた。フロントが想定とずれた)
    • 追加指示でもう1回: 約16分
    • 合計 約46分
  • Devin

    • 1回で仕様どおりの画面まで作って約32分
    • 合計 約32分

つまり「一発で全部やってほしい」「画面まで一度で欲しい」なら Devin のほうが速くなる、という結論になりました。Copilot Agent もできるのですが、追加指示を1ターン挟むとそのぶん時間が延びるイメージです。


品質まわりで見えたこと

Copilot Agent の良さ

  • 既存リポジトリの文脈をよく拾う(命名・ディレクトリ構成・使ってるFWなど)
  • GitHubのセキュリティ・監査がそのまま効く
  • 1タスク=1PRなので、履歴がきれいで、後から「何をAIにやらせたか」が追いやすい
  • 逆に言うと「1リポジトリの中で完結している」「いつも通りのGitHubフローでやりたい」ならこっちが楽

Devin の良さ

  • 設計→実装→画面→プレビューまで自分で走るので、“動くものを早く見たい” ときに強い
  • サンドボックスの中で自己デバッグまでやるので、エラーで止まりにくい
  • ただしコードの点数は70〜100点の幅があって、人間レビューで締める想定が前提になる

学習コスト・運用コストの話

  • Copilot Agent は既存の GitHub / VS Code の延長なので「今日から試す」がやりやすい
  • Devin はUIやサンドボックスの考え方を1回覚える必要があるので、チームに広げるなら軽い勉強会を1本挟んだほうがいい
  • どっちも「最初は小さなタスクから」「レビューを必須にする」「PRを残す」をルール化すると事故りにくいです

結局どう使い分ける?

資料でも最後にこうまとまっていましたが、Qiita向けに言い換えるとこうなります:

  • 🟢 日常の開発・既存リポの改修・短いサイクル
    GitHub Copilot Agent
    → GitHubにきれいに履歴が残るし、セキュリティや権限もそのまま効く

  • 🟣 独立した大きめタスク・並列でどんどん回したい・プロトタイプを早く見たい
    Devin
    → 1回の依頼で設計〜画面まで走るので、まとめて依頼するほど効く

  • 🟡 ハイブリッド

    • 普段はCopilotでPRを細かく積む
    • 月初などで「この塊を一気にやりたい」時だけDevinに投げる
    • どちらでも最終的にはPRでレビューしてからマージする

まとめ

  1. どっちも「PRベースで人間が最後に見る」ので、導入の考え方は似ている
  2. でも GitHubにどっぷりなチームはCopilot AgentのほうがOnboardingが早い
  3. 一方で 1発で画面までほしい・サンドボックスでぐるぐる回したいならDevinが速かった
  4. なので「どちらを選ぶか」より「どこまでをAIに任せるか」を先に決めると社内説明が楽になる
0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?