はじめに
最近「AI だけ で〇〇作ってみた」という投稿をよく目にします。個人開発としては一般的になっていると思いますが、仕事の現場（ここでいう仕事とは、顧客との契約があるシステム開発を指します）で「AI だけ で開発する」という話は聞きません。
なぜこんなに AI が進化しているのに仕事では「AI だけ」にならないのか。今のうちにこの問いへの自分なりの答えを整理しておけば、今後 AI の能力がさらに上がったときに「じゃあ今はどうか？」と見直す基準になります。
結論から言うと、責任 の問題だと考えています。
「責任」を分解すると見えてくること
システム開発の契約書に「AI だけで作ったのでバグがあっても人間は責任を負いません」（そのかわり激安！）とは絶対に書けません。
では契約における「責任」とは何か。分解すると大きく3つあります。
- 無償で修正する期間（瑕疵担保） — バグの修正作業自体はコードを直すことなので、AI にも手伝わせることはできます。ただし瑕疵担保責任そのもの（損害賠償や契約解除への対応）を負えるのは人間だけです。
- 何かあれば会社として全力で取り組む、という姿勢 — 謝罪・調整・再発防止の説明責任を果たせるのは人間だけです。AI には無理です。
- バグを限りなくゼロにする覚悟 — これは人間にも完全には言えません。しかし人間は「全力を尽くします」と少なくとも言えます。AI が「100%バグを出しません」と保証しないのは周知の事実です。
つまり、責任を負えるのは人間だけ——これが「AIだけで作る」に踏み切れない根本的な理由だと考えています。
AIだけで作ってはいけないシステム
この「責任」を踏まえると、以下のような領域は「AIだけ」では危険です。
| 領域 | 理由 |
|---|---|
| 医療（診断・投薬など） | 生死に直結する。誤りの代償が大きすぎる |
| 決済・金融 | 金銭的な損害が第三者にも及ぶ |
| 他社との契約書類（請求書・注文書など） | 法的効力を持つ。誤りが社外との関係に影響する |
共通しているのは、誤りが人間や社会に直接的・不可逆的な影響を与えるという点です。こうした分野で AI が生成した結果を人間がノーチェックで使うことは、現時点では難しいと考えています。
AIだけで作っていいシステム
逆に、以下のようなシステムであれば AI だけで作ることに大きな障壁はありません。
- ゲーム
- 割り勘管理
- 物品管理
共通しているのは、誤りがあっても影響が限定的で、すぐに修正できるという点です。
まとめ
仕事においては、AI を使って開発しているのは 契約者である人間 です。開発の手段として AI を使うかどうかは基本的には契約者の裁量であり、成果物に対して人間が責任を負える体制があるかどうか が本質です。
AI はあくまでも道具です。道具の性能が上がっても、それを使って何を作り、誰が責任を持つのかは変わりません。もっと言えば、契約の最悪の事態は裁判です。AI は法廷に立てません。
「AI だけで作った」と言い切れるのは、誤りの影響が作り手の中で完結するものだけ——というのが、今のところの結論です。
もっとも、自動運転のように人の命を預かるシステムでも AI の活用は進んでいます。それは「AI だけ」で成り立っているのではなく、厳格な法規制、多重の安全設計、そして最終的には人間が責任を負う体制があってはじめて社会に受け入れられています。逆に言えば、そこまでの体制を築けるなら、どんな領域でも AI の活用は進んでいくはずです。
関連記事リンク
他の記事もぜひご覧ください！
読んでいただきありがとうございました！
❤いいね！をしていただけると励みになります。