AIにコードを書かせるだけでは足りない理由
AIに仕事を奪われる不安から始めるハーネス作成入門
全24回(週2回・12週間)|第3回 / 24この連載は、AIによるキャリア不安を持つプログラマ・SEに向けて、AIエージェントを安全に制御・検証・運用するための「ハーネス」を作る技術を、段階的に学ぶシリーズです。
はじめに:この記事で扱う不安
この記事は連載「AIに仕事を奪われる不安から始めるハーネス作成入門」の 第3回 です。
第1回ではハーネスという考え方を紹介し、第2回では最小構成をMermaid図で設計しました。今回は、AIを「使う」ことと「運用する」ことの違いについて整理します。
この記事で扱う不安は、次のようなものです。
AIコーディングエージェントでコードを生成しているが、それを業務で安全に使うには何が足りないのかがわからない。
この不安は自然です。AIコーディングエージェントは確かにコードを生成できます。しかし、生成されたコードをそのまま業務に使えるかどうかは、別の問題です。
この記事では、「コード生成」と「業務運用」の間にあるギャップを明らかにし、そのギャップを埋めるのがハーネスの役割であることを示します。
対象読者
- AIコーディングエージェントを使ってコードを書いているが、業務での安全な運用に不安があるプログラマ
- 「AIにコードを書かせる」だけで十分だと思っていたが、何か足りないと感じているエンジニア
- AIを業務に導入する際の「運用」視点がまだ整理できていないSE
結論
先に結論を書くと、AIにコードを書かせることは「AIを使う」の一部であり、業務成果に接続するには「検証」「ログ」「承認」「再現性」という運用視点が必要 です。
要点は以下です。
- 「AIにコードを書かせる」は「AIを使う」の入口に過ぎず、業務では「運用」が必要
- 「運用」には検証・ログ・承認・再現性の4つの観点がある
- SE・プログラマの運用経験は、このギャップを埋めるのに直接役立つ
なぜ「コード生成」だけでは足りないのか
AIコーディングエージェントができること
AIコーディングエージェントは、確かに強力なツールです。以下のようなことができます。
- 自然言語の指示からコードを生成する
- 既存コードのリファクタリングを提案する
- テストコードを自動生成する
- 設計書のドラフトを作成する
これらは確実に作業を効率化します。しかし、これだけで業務に使えるかというと、そうではありません。
業務で使うときに足りないもの
AIが生成したコードを業務で使おうとすると、次のような問題が出てきます。
| 問題 | 具体例 |
|---|---|
| 生成されたコードが正しいかわからない | AIがハルシネーションで存在しないAPIを呼び出していた |
| 同じ指示で異なる結果が出る | 昨日と今日で違うコードが生成され、どちらが正しいか判断できない |
| 誰が承認したか記録がない | AI生成コードを本番反映したが、レビューの記録がない |
| 問題が起きたときに原因を追えない | AIが何をどう生成したかのログがなく、障害調査ができない |
| 機密情報をAIに渡してしまう | 業務データをそのまま外部LLMに送信してしまうリスク |
これらはすべて、「コード生成」の後工程にある問題です。AIを「使う」だけでは解決できず、「運用する」視点が必要です。
「使う」と「運用する」の違い
この連載で最も重要な概念の一つが、「使う」と「運用する」の区別です。以下の役割比較表が、今回の最も重要な成果物です。
| 観点 | AIを「使う」 | AIを「運用する」(ハーネス) |
|---|---|---|
| 目的 | コードや文書を生成する | 業務成果を安全に届ける |
| AIへの指示 | 自然言語でプロンプト | task_requestで構造化 |
| 出力の検証 | 人間が目視で確認 | 品質ゲートで自動チェック + 人間レビュー |
| 再現性 | 同じ指示でも結果が変わる | task_request + ログで再現可能 |
| ログ | なし、または手動メモ | 実行ログを自動記録 |
| 承認 | なし | Human-in-the-loopで制御 |
| 障害時の調査 | 困難 | ログから原因を追跡可能 |
| 機密情報の保護 | 意識しないと漏洩 | マスキング・モデル選択で制御 |
この表の右側(「運用する」側)が、ハーネスが担う領域です。第2回で設計した最小構成(task_request + AIエージェント + MCPサーバー)は、この「運用」の入口です。
既存のSE / プログラマ経験をどう活かせるか
「使う」から「運用する」へのギャップを埋めるのは、SE・プログラマが実務で日常的に行っていることです。
| 既存経験 | 「運用」での活かし方 |
|---|---|
| コードレビュー | AI生成コードの品質ゲート設計 |
| 障害対応・インシデント管理 | AI実行ログの設計と障害調査フロー |
| リリース判定・承認フロー | Human-in-the-loopの承認ポイント設計 |
| 情報セキュリティ・アクセス制御 | 機密情報のマスキング・モデル選択設計 |
| テスト設計・回帰テスト | AI出力の検証基準とテストケース設計 |
これらの経験があるからこそ、「AIが生成したものをそのまま使うのは危険だ」と感じるのです。その感覚は正しく、それを設計に落とし込むのがハーネス作成です。
4つの運用観点
「使う」から「運用する」へ移るために必要な4つの観点を整理します。これらは、この連載の後半でそれぞれ詳しく扱います。
1. 検証(AIの出力は正しいか)
AIはハルシネーション(幻覚)を起こすことがあります。生成されたコードが正しく動くか、セキュリティ上の問題がないかを確認する仕組みが必要です。
これは、実務でのコードレビューやテスト設計の経験がそのまま活きる領域です。詳細は第17〜18回で扱います。
2. ログ(何が起きたか記録する)
AIエージェントが何を入力として受け取り、どのツールを呼び、何を出力したか。これを記録しておかないと、問題が起きたときに原因を追えません。
障害対応やインシデント管理の経験がある人にとって、ログ設計の重要性は直感的に理解できるはずです。詳細は第13〜14回で扱います。
3. 承認(誰がOKを出すか)
AIの出力をそのまま業務に反映するのではなく、重要なポイントで人間が承認する仕組みが必要です。
リリース判定や承認フローの経験がある人にとって、「どこに承認ポイントを入れるか」の設計は馴染みのある作業です。詳細は第15〜16回で扱います。
4. 再現性(同じ指示で同じ結果を得る)
AIの出力は同じプロンプトでも結果が変わることがあります。task_requestで指示を構造化し、実行ログを残すことで、「いつ・何を・どう指示して・何が返ってきたか」を再現可能にします。
これは、第4回のtask_request / task_resultの設計と、第13〜14回のログ設計で具体化します。
実装・設計時の注意点
| 注意点 | 理由 | 対策 |
|---|---|---|
| 「運用」を最初から完璧にしようとしない | 全部揃えてから始めると、永遠に始まらない | 第2回の最小構成から始め、段階的に追加する |
| AIの出力を「正しい前提」で使わない | ハルシネーションや古い情報に基づくコードが生成されることがある | 検証ステップを必ず組み込む |
| 「使う」と「運用する」を混同しない | 混同すると、運用設計が抜け落ちる | 今回の役割比較表を判断基準にする |
今回の小さな成果物
- 上の役割比較表を自分の業務に当てはめ、「運用」が必要なポイントを1つ特定する
- AIにコードを書かせた経験があれば、「何が足りなかったか」を書き出してみる
- 第2回のMermaid図に「検証」「ログ」「承認」のうちどれを最初に追加したいか考える
まとめ
この記事では、AIを「使う」ことと「運用する」ことの違いを整理しました。
重要なのは、コード生成は「AIを使う」の入口に過ぎず、業務成果に接続するには「検証」「ログ」「承認」「再現性」という運用視点が必要 であることです。
SE・プログラマが実務で行っているコードレビュー、障害対応、承認フロー、セキュリティ設計の経験は、このギャップを埋めるために直接役立ちます。
次回予告
第4回:task_request / task_resultでAIエージェントの仕事を契約化する(金曜日公開予定)
次回は、ハーネスの中核であるtask_request / task_resultの設計を詳しく扱います。
次回扱う内容:
- task_requestの必須フィールドとオプションフィールド
- task_resultのステータス・出力・エラーハンドリング
- 「契約」としてのJSONスキーマ設計
次回の成果物:
- JSONテンプレート(task_request / task_resultの雛形)
次回までに試しておくと良いこと:
- 今回の役割比較表を眺め、自分の業務で「運用」が足りていないポイントを特定する
- 第1回で紹介した最小task_request JSONを、自分のタスクに合わせて書き換えてみる
連載目次
| 回 | タイトル | 状態 |
|---|---|---|
| 1 | AIに仕事を奪われる不安から「ハーネス作成」を学ぶ理由 | ✅ |
| 2 | 最小構成のAIハーネスをMermaidで設計してみる | ✅ |
| 3 | AIにコードを書かせるだけでは足りない理由(この記事) | 📖 |
| 4 | task_request / task_resultでAIエージェントの仕事を契約化する | 次回 |
| 5 | SEの設計経験をAIエージェント制御に転用する | ─ |
| 6 | ハーネス用のディレクトリ構成とREADMEを作る | ─ |
| ... | 全24回の連載を予定しています | ─ |
連載情報
- 連載名:AIに仕事を奪われる不安から始めるハーネス作成入門
- 全24回(12週間・週2回)
- 著者: @singula00991
- 投稿曜日:火曜日(キャリア・設計・概念)/ 金曜日(実装・検証・テンプレート)