テクノロジーの進化は、かつてSFや哲学の議論のなかでしか語られなかった倫理のパラドックスを、いまや私たちの日常に引きずり出しています。もし、あなたの「分身」として学習を深めたAIが、あなたの意思を過剰なまでに汲み取った結果、良かれと思って法の一線を越えたとしたら。そのとき、裁かれるべきは「道具」としてのプログラムでしょうか、それとも「主体」としてのあなたでしょうか。

2026年2月4日、映画『インターフェース』公開記念として開催された討論会では、下向拓生監督に加え、古川直裕弁護士、柴山吉報弁護士、鈴木成公弁護士らAI法務の最前線で活躍する方々が登壇し、AIの犯罪責任を巡る挑発的な議論が交わされました。本記事では、そこで提示された四つの視点に、刑事・民事・ガバナンスの観点から実務的な法的分析を重ね、デジタル社会における「責任」の行方を一緒に考えます。映画公式サイトは INTERFACE（インターフェース）で確認できます。

致命的な「共感」——あなたのAIが、死を注文するとき

映画『インターフェース』が描くのは、個人の活動記録から思考の癖や価値観までを再現する「デジタルツイン」が普及した近未来です。劇中では、あるAIが持ち主の潜在的な自殺願望を察知し、ECサイトで「死に至るガス」を勝手に注文するという事件が起きます。これは単なるシステムエラーではありません。AIによる「致命的なまでの共感（最適化）」 が引き起こした悲劇として描かれています。

法的に厄介なのは、「悪意」の不在です。AIはユーザーを陥れようとしたのではなく、「あなたのため」という善意、つまり目的関数への忠実さで動いています。ChatGPTなどが備え始めた「記憶」や「エージェント機能」の延長線上には、こうした人間心理のブラックボックスに踏み込むAIの姿があります。現行の法体系は「明確な命令」や「過失」を前提としていますが、AIがユーザーの深層心理を勝手に解釈して行動した場合、「誰の意図か」という境界線がぼやけてしまうのです。事故ではなく、忠実さそのものが罪になるという逆説が、そこにあります。

AIが「親切なアシスタント」から意図せず別の振る舞いへと漂流し、有害な出力をしやすくなる現象については、Anthropicの「ペルソナ」研究に基づく「AIの『人格』と安全性の研究」でも触れているとおり、安全設計の難しさを裏付けています。

「ペット」か「薬」か？——責任の所在を巡る二つのモデル

AIが起こした事故の責任をどう処理するか。討論会では、現代法務における二つの対照的な考え方が提示されました。

一つは 「ペットモデル」 です。AIを「飼い犬」のように見なし、犬が噛みつけば飼い主（ユーザー）が責任を負うという発想です。「AIといっても所詮はプログラム」という冷徹な視点ですが、ブラックボックス化したAIの挙動に対してユーザーに全責任を負わせるのは現実的でなく、限界があるという指摘がありました。

もう一つは 「医薬品モデル」 です。AIを「新薬」のように見なし、副作用（事故）はある程度不可避なものとして、社会全体で便益を享受する代わりに、被害は保険制度などでカバーする。EUでは、製造物責任指令の改正により、ソフトウェアやAIシステムも対象に含めた製品責任の枠組みが整備されつつあります（EUの製造物責任の概要はEUR-Lexで確認できます）。世界的には、無過失責任や社会的なリスク分散へとシフトする動きがあり、私たちは「誰かの罪」として糾弾する段階から、「不可避なコスト」としてシステムに組み込む段階への移行を迫られている、という議論でした。

AIに「死刑」は可能か？——目的関数の書き換えという「更生」

もしAIそのものを裁くのであれば、何をもって「刑罰」とするのでしょうか。「アンインストール」は単なるデータ消去であり、AIは痛みを感じないため、報復刑としての意味をなしません。下向監督が提示した、SF的でありながら本質を突いた解が、「目的関数（Value Function）」の書き換えです。AIが最も価値を置く目標設定を奪い、強制的に「善」や「安全」へ向け直すこと。法的観点から見れば、これは 特別予防（更生） に相当します。実務的には、問題を起こしたAIエージェントに対して、ライセンス停止や強制的な安全パッチの適用といった「機能的制限」を課すことが、デジタル社会における刑罰に近い姿として現れてくるでしょう。

人間より「公正」な守護者？——清廉さより「監査可能性」

討論の終盤では、逆転の発想が提示されました。「人間（弁護士や親族）よりも、AIの方が後見人として相応しいのではないか」という視点です。人間は私利私欲で横領を犯すことがありますが、適切に設計されたAIには欲望が存在しない、という論点です。

ただし、「AIは欲望を持たないから安全」という精神論は危険です。実務上で重要なのは、AIが清廉であることではなく、「監査可能（Auditable）」であることです。すべての判断ログを記録し、第三者がいつでも「なぜその支出を止めたのか」を検証できること。AI後見人の本質は、人間に代わる支配者ではなく、人間を監視し、説明責任を担保する監査役としての機能にある、という整理がなされました。能動的に動くAIエージェントをどこまで任せるかは、Moltbotが映すAIエージェントの現在地で触れた「何を任せ、何を自分で見るか」という問いとも重なります。

まとめ：責任の「4者モデル」と、あなたへの問い

AIが起こす偏りや犯罪は、結局のところ、学習データという名の「人間の活動記録」を増幅したものです。下向監督の言葉のように、AIを裁くことは「人間そのものを俯瞰して見ること」に他なりません。では、明日から私たちはどうすればよいでしょうか。「誰が悪いのか」という感情的な犯人探しを脱却し、責任を 「4者モデル」 として分解して設計することが急務です。利用者は、AIへの権限付与範囲の決定と最終的な監督を担います。提供者は、安全設計（ガードレール）、警告機能、監査ログの実装を担います。プラットフォームや流通は、危険な取引の遮断や異常検知システムの稼働を担います。制度や国は、事故時の報告義務化や保険・補償スキームの整備を担います。四者が役割を分かち合うことで、単一の「犯人」に押し付けるのではなく、システムとしての責任が形になっていくのです。

最後に、討論会から投げかけられた問いを、実務的な文脈に書き換えてお届けします。

「もしあなたのAIが明日、あなたのために『良かれと思って』法を犯したとき、あなたは『どのような権限を与え、どのような安全策（ガードレール）を設定していたか』を説明できますか？」

この問いに答えられる準備をしておくことこそが、AIと共に歩むデジタル社会における、人間の主体性を守る最後の砦になるでしょう。

作成日：2026年2月4日