1. はじめに
生成AIの普及により、業務にAIを導入して効率化を図る企業が増えている。設計・開発の分野も同様である。
特に、生成AIに指示を出しながらプログラムを作成する「バイブコーディング」によって、従来よりも短時間でアプリケーションやツールを開発できるようになった。
昨今の脆弱性問題などの対応にもAIが使われることだろう。
一方で、生成AIの使い方によっては、重大なトラブルを引き起こす可能性もある。
例えば、生成AIに成果物の作成を丸投げし、内容を十分に確認しないまま業務で利用するケースである。問題が発生した際に「AIが作ったものだから分からない」と責任を放棄するような使い方は、決して許容されるものではない。
本記事では、生成AIを利用した設計・開発におけるリスクと、適切な利用方法について説明する。
2. 対象
本記事は、以下に該当する人を対象とする。
- 生成AIを利用した設計・開発を行っている、または検討している者
- 生成AIを利用した設計・開発を管理・監督する者
- 会社などの組織において、生成AIの利用ルール策定を担当する情シス部門
3. リスク
以下の項目に該当する使い方をしている場合は、生成AIの使い方を見直すべきである。
なお、本記事では個人的な利用ではなく、業務での利用を前提とする。
生成AIが出力した内容をそのまま公開・利用する
特に避けなければならない行為である。
前提として、生成AIが出力する内容には誤りが含まれる場合がある。これは、各生成AIサービスでも注意事項として明示されている。「AIが作ったから正しい」ということにはならない。
また、仕様書やプログラムコードに不備やバグなどがあった場合に、「AIが作ったから私には分かりません」、「プロジェクトファイルを丸ごと食わせて、AIに訊いてください」などという言い訳は通用しない。
動作確認をして問題がなかったため公開・利用する
確認した内容にもよるが、実際に操作して期待した結果が得られたことだけを理由に、問題がないと判断して公開・利用するのは危険である。
一部の機能が意図したとおりに動作していても、別の部分で問題が発生している可能性がある。
例えば、データを追加する機能をAIに実装させた場合、既存データとの整合性を取るために、意図せず既存データを変更・削除するような処理が実装されている可能性がある。正常にデータが追加されたことだけを確認しても、既存データが意図せず変更されていないことまでは保証できない。
また、AIが提案・追加した外部パッケージに脆弱性や悪意のあるコードが含まれている可能性もある。依存関係を十分に確認せずにインストールすれば、開発環境や実行環境を危険にさらすことになる。
確認すべき項目は結果だけではない。使用したパッケージに問題がないか、関数は意図した仕様の機能であるか、公式ドキュメントや簡単なサンプルコードなどで確認・検証する必要がある。
プロンプトで制約も定義したため、意図しない挙動は含まれていないと判断する
これも避けなければならない行為である。
前述の通り、生成AIが出力する内容は誤りを含む場合がある。プロンプトに制約も定義したからといって、その通りに出力されるとは限らない。プロンプトはあくまで生成AIへの指示であり、成果物がその指示に従っていることを保証するものではない。
制約を定義したのであれば、その制約が実際に守られているかを成果物から確認する必要がある。
生成AIが作成した成果物を保守できない状態で公開・利用する
これも避けなければならない行為である。
業務システムなどは、一度動けば終わりではない。開発者がコードを理解できていないことで、以下のような問題に直面することになる。
- 障害発生時に原因を調査できない
- 作成者が異動・退職する際の引継ぎで説明責任が果たせず、後任者が処理内容を理解できないまま組織的な保守が困難になる
- 使用している外部パッケージに脆弱性が発見された際、影響範囲や修正方法を判断できない
開発者は、成果物についてロジックなどを理解していなければならない。
4. 理想的な使い方
以上の内容を踏まえ、以下のように生成AIを適切に活用することで、開発の効率化を図りながら、成果物の品質を確保することが重要である。
- アイデア出しや設計方針の検討
- 仕様書や設計書のたたき台の作成
- 議事録などの要約
- 条件に応じた適切な選択肢の提示
- 部分的な機能の実装
- コードレビューの補助
AIに実装を任せた場合でも、生成されたコードのロジック、依存パッケージ、実行環境への影響などを確認する必要がある。また、振る舞いだけでなく、ソースコード全体の処理の流れや、既存機能への影響についても理解しておく必要がある。
言ってしまえば、全部確認する必要があるということである。
5. まとめ
生成AIを利用した成果物に問題が発生した場合、その成果物を確認・利用する判断をした人間や、業務上の管理責任を持つ組織が、それぞれの役割に応じて責任を負うことになる。
開発者には成果物を適切に確認する責任があり、上司や管理者には業務上の成果物を管理・監督する責任がある。また、情シス部門など、生成AIの利用ルールを策定・管理する部門には、安全に利用できる環境やルールを整備する役割がある。
この記事をそのままガイドラインにする必要は無いが、情シス部門を中心にルールを策定して、設計・開発者一人ひとりがそれを遵守することが重要である。