現在、ChatGPTやClaude、Geminiなどの生成AIを業務で活用する企業が増えています。
一方で、
などの課題もよく話題になります。
皆さんの組織やプロジェクトでは、生成AI利用時にどのようなセキュリティ対策を実施していますか？
例えば、
など、実際の運用方法やベストプラクティスがあれば教えていただきたいです。
よろしくお願いします。
うちの運用でやっていることを簡単に共有します。
入力データの制限が一番効いています。「機密情報は入れない」という呼びかけだけだと必ず漏れるので、業務利用は契約上入力データを学習に使わないプラン（ChatGPT Enterprise / Claude のチーム向けなど）に限定し、個人アカウントの業務利用は禁止しています。仕組みで縛らないとルールは形骸化する、というのが実感です。
利用サービスの制御は、許可したサービス以外へのアクセスを制限しつつ、SSO + MFA で入口を固めています。誰がどのツールを使えるかをRBACで管理すると、棚卸しも楽になりました。
コードレビューの強化については、AI生成コードで特に怖いのが「動くけど穴がある」パターンなので、ハードコードされた秘密情報の検出（secret scanning）と依存脆弱性チェックをCIで必須にしています。認可（そのリソースの持ち主か）の確認は人の目で必ず見る、という運用です。
ポリシー策定は、入れてよい情報の範囲・使ってよいサービス・出力のレビュー手順・責任の所在、の4点を1枚にまとめて全員がすぐ参照できるようにしています。長い規程より、短くて実際に読まれるものが効きます。
プロンプトインジェクションは、RAGやエージェントだと外部ドキュメント自体に指示が仕込まれるので、AIの出力で権限の高い操作を自動実行させない（人の承認を挟む）設計にしています。
参考になれば幸いです。
