できる対策

アクセス時に確認できる情報から、AIによるアクセスだと判別できる場合は、そのアクセスを拒否する
- クラウド上で実行されるAI機能では、利用者本人ではなく、サービス側のIPアドレスからアクセスされる場合があります。
ファイアウォールなどで、AI APIを含む接続先を制限する
- AIが自律的に外部通信を行う仕組みが使われる場合にも、許可する通信先を絞る対策が役立つ可能性があります。
AI APIへの外向き通信を拒否し、サーバーから情報が送られる経路を減らす

AIの申告情報は偽装される可能性があり、AI APIの接続先も中継サーバーなどを経由すれば判別できないことがあります。そのため、これだけで情報流出を防げるわけではありません。それでも、既知のAIアクセスや通信経路を減らす追加策として意味があります。

AIを使って作成されたプログラムによる不正アクセスだけでなく、AIが悪意ある入力などに誘導され、許可された機能を通じて不適切な操作をする可能性も考慮して損はありません。

この対策は、AIだと識別できるアクセスを拒否することで、そうしたアクセスが成功する可能性をわずかでも下げることを意図しています。

AIを使うサーバーと使わないサーバーを分ける

AI機能が必要な場合は、AIへの通信を許可するサーバーAと、許可しないサーバーBに分ける方法もあります。

この構成では、サーバーAからサーバーBの全情報を取得できないようにします。AI機能に必要な情報だけを渡す設計にすれば、AIに接続できるサーバーから漏れる可能性のある情報も限定できます。

サーバーを分けるだけで安全になるわけではありません。サーバー間の通信権限を絞り、渡す情報を必要最小限にすることが大切です。