"ビジネスを自律運営する"AIを導入したのに、何かあれば自己責任？2026年の責任問題を整理する
AIエージェントが「ビジネスを自律的に運営できる」と各ベンダーが声高に宣伝するなか、実際に問題が起きたとき誰が責任を取るのか——この問いへの答えは、まだ誰も持っていません。
OracleはAI Agent Studio for Fusion Applicationsの拡張を発表した際、自社のAIエージェントが「ビジネスアクロスシステムで推論・行動・継続実行が可能」で「企業に必要なガバナンス・トラスト・セキュリティを備えた状態でビジネスをアクティブに運営できる」と述べました。しかし実際に取材を受けると、Microsoft・SAPはコメントを拒否し、Workday・Salesforce・ServiceNow・Oracleはいずれも取材に応じませんでした（The Register、2026年4月）。
大きな期待と法的な沈黙——この対比こそが、2026年のAIエージェントが抱える最大の問題です。この記事では、AIエージェントの責任問題がなぜ起きているのか、日本と海外でどう考え方が異なるのかを整理してみます。
AIエージェントが担い始めた意思決定の領域
近年、Oracle・Microsoft・Salesforceをはじめとする大手エンタープライズ向けソフトウェアベンダーが、AIエージェントを採用選考（HR審査）・規制申請書類の作成・サプライチェーンの意思決定に活用しようとしています。
これらのユースケースに共通するのは、判断の結果が人に影響するという点です。採用選考であれば「この候補者を落とす」という判断が、サプライチェーンであれば「この発注をキャンセルする」という判断が、AIによって自動的に下されるわけです。
ここで重要なのは、AIエージェントの意思決定が人間のそれとまったく性質が異なることです。Gartnerの副社長アナリストであるBalaji Abbabatulla氏は「AIエージェントの判断と人間の判断の違いは、そのスケールとスピードにある。何か問題があれば、誰も気づかないうちに判断が連鎖してしまう可能性がある」と警告しています。
従来のシステムであれば、バグが発生しても影響は限定的です。ところがAIエージェントは、問題のある判断を秒単位で大量に繰り返すことができます。これが「カスケードリスク」と呼ばれる問題で、ベンダーが責任を引き受けることをためらう最大の理由のひとつでもあります。
ベンダーが責任を取らない理由
AIエージェントをめぐる責任問題の核心は、「非決定論的（non-deterministic）」という技術的特性にあります。
通常のソフトウェアは、同じ入力に対して必ず同じ出力を返します。ベンダーはその動作を予測できるため、保証（ワランティ）を提供しやすい。しかしAIエージェント、とりわけ生成AIをベースにしたものは、わずかな入力の差異や文脈の変化で判断が急変することがあり、なぜその結論に至ったかの根拠を説明しにくいという特性があります。これがいわゆるブラックボックス問題で、Pinsent Mansonsのシニアテクノロジー弁護士Malcolm Dowden氏は「AIが本質的に予測不能である以上、ベンダーが動作を保証するのは非常に難しい契約上の約束になる」と述べています。
実際の契約交渉の場では、バイアスの責任を互いに押しつけ合う構図が生まれています。ベンダーは「モデルにバイアスがないことを定期的にテストし、モデルのキャリブレーションも行う。しかし、プロンプトの作り方に起因するバイアスについては責任を負わない」という条件を提示しがちです。一方、導入企業側は「プロンプトではなくモデル自体の問題だ」と主張します。双方が相手に責任を押しつけようとするなかで、被害を受けた個人は置き去りにされるリスクがあります。
一方で、ベンダーが責任を回避する理由はビジネス上の観点からも理解できる面があります。Linklaters のデジタル・データ・商業法パートナーであるGeorgina Kon氏は「何かが間違えた場合の増幅リスクは非常に大きく、そのリスクを丸ごと引き受けるのは商業的に現実的でない。だからこそベンダーは製品をソフトローンチし、実際の導入から学ぼうとしている」と説明します。
法的空白地帯の現状
「ボックスのせいにはできない（You can't blame it on the box）」
英国の金融報告評議会（FRC）のエグゼクティブディレクター、Mark Babington氏がAI活用に関するガイダンスでこう述べたように、利用者である企業が責任を負うという立場は各国の規制当局に共通しています。技術が変わっても、監査の品質に責任を持つのは人間であり企業であるというわけです。
この状況でGartnerはふたつの深刻な予測を示しています。ひとつは、2026年半ばまでに違法なAI意思決定から生じる新たなカテゴリのコストが、世界のAIベンダーと導入企業に対して合計100億ドル超の是正コストをもたらすというもの。もうひとつは、2026年末までに「death by AI」（AI起因の死亡事故等）に関連した法的請求が世界で2,000件を超えるというものです。医療・金融・公共安全といった高リスク分野でのブラックボックスAIの誤作動が、訴訟の温床になると見られています。
すでに訴訟も始まっています。2024年7月、米国カリフォルニア地裁では採用AIをめぐる画期的な判断が下されました。雇用主がWorkdayのAI採用スクリーニングアルゴリズムに採用判断を委任していた場合、Workdayを雇用主の代理人として扱い、両者が直接責任を負い得るという判断です。これはAIベンダーが「ツールを提供しただけ」という言い訳では逃げ切れない可能性を示した重要な事例で、現在も係争中です。
日本と海外、考え方はどう違う？
AIエージェントの責任問題に対するアプローチは、地域によって大きく異なります。
| 観点 | EU | 米国 | 日本 |
|---|---|---|---|
| 規制の性格 | ハードロー（AI Act、法的拘束力あり） | 州ごとに異なる（パッチワーク状） | ソフトロー中心（ガイドライン＋AI推進法） |
| AIエージェントの扱い | 高リスク分類はユースケース次第（人事・採用・与信等のAnnex IIIに該当する用途で使う場合に高リスク扱い） | 分野・州ごとに異なる | 2026年3月に初めてガイドラインで定義 |
| 責任の所在 | 開発者・提供者に義務を明示 | 連邦レベルは模索中 | 利用企業の自主対応が基本 |
| 罰則・強制力 | あり（最大3,500万ユーロ） | 州によりあり | 原則なし |
| 基本スタンス | 規制先行でリスク管理 | イノベーション重視 | 促進しながらリスク管理（ハイブリッド） |
EUのアプローチは世界で最も厳格です。2025年後半から汎用AIモデルへの義務適用が始まったEU AI Actは、AIシステムをリスクレベルで分類しますが、重要なのは「AIエージェント」というアーキテクチャそのものではなく、**何に使うか（ユースケース）**で分類が決まる点です。人事採用・与信・医療・重要インフラ管理など、Annex IIIに列挙されたドメインで使うAIが「高リスク」と見なされ、説明責任・透明性・監査記録の保存が義務づけられます。つまり同じAIエージェントでも、文書要約に使えば低リスク、採用スクリーニングに使えば高リスクという扱いになります。2026年8月には大部分のハイリスクAIへの規制が本格適用され、違反には多額の制裁金が課されます。EUは世界標準のデファクトになりつつあり、EU域外の日本企業でもEU市場向けのサービスを扱う場合は対象になる点に注意が必要です。
米国のアプローチは対照的に分散しています。連邦レベルでは2025年12月に「AIに関する国家政策フレームワーク確保」大統領令が署名されましたが、これは各州のAI規制が過度に断片化していることへの問題意識から、国家標準の調整を目指すものです。一方で採用AIをめぐる差別問題には雇用機会均等委員会（EEOC）が既存法を適用しており、AI導入企業が責任を負うという立場は変わりません。
日本のアプローチは「促進優先・ソフトロー補完」といえます。2025年6月に公布・施行された「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI推進法）は、AIをイノベーションの基盤として位置づけつつ、リスクへの対応を国が調査・指導する仕組みを定めていますが、EUのような直接的な義務や罰則はありません。ガイドラインを中心とした企業の自主対応が基本路線です。
ただし、この方針には最近動きがありました。経済産業省・総務省は2026年3月31日、「AI事業者ガイドライン第1.2版」を公表しました。従来のバージョンではAIエージェントへの言及は限定的でしたが、今回の改訂でAIエージェントが「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と初めて明確に定義され、外部システムに影響を与えるアクション（メール送信・データ更新・取引実行など）には人間の確認・承認プロセスを設けることが求められるようになりました（Human-in-the-Loop）。法的拘束力はありませんが、企業の約8割がガイドラインを認知しており、一定の実務的影響力を持ちます。
EUが「先に規制して安全を確保する」立場なのに対し、日本は「まず使ってみて、問題が出たら対応する」という姿勢に近いといえます。どちらが正解かは一概にはいえませんが、日本企業がEU向けサービスを提供する場合はEU AI Actの域外適用を受ける点には注意が必要です。
AIエージェントを使うとき、何に気をつければいい？
責任の所在があいまいなまま運用することは、導入企業にとって大きなリスクになります。Gartnerのアナリストが提唱する「Defensible AI（防御可能なAI）」という概念は、ひとつの指針になるでしょう。これは、AIの意思決定が「信頼性を持って、繰り返し、外部からの審査・検証に耐えられる」状態を維持するという考え方です。
具体的には次の点を意識すると良いでしょう。
まず、ベンダーとの契約内容を詳細に確認することです。AIエージェントの誤動作・ハルシネーション・バイアスに起因した損害について、ベンダーがどこまで補償するのかを契約書で明確にしておく必要があります。「テストは実施している」という表明だけでは不十分で、どのような条件下でどこまで責任を負うのかを確認しましょう。
次に、人間の判断を介在させる設計を採用することです。日本のガイドライン第1.2版が求めるように、外部システムや人に影響を与えるアクションには人間の承認フローを組み込むことが重要です。AIエージェントをフル自律で動かすのではなく、影響度に応じた段階的な監視設計が現実的な選択肢です。
さらに、判断ログを残すことも不可欠です。何かが起きたとき、「なぜそのAIがその判断を下したのか」を説明できる記録がなければ、責任の特定も改善も難しくなります。EU AI Actが求めるトレーサビリティは、たとえ日本企業であっても参考になる考え方です。
まとめ
AIエージェントは確かに業務を変える力を持っています。しかし「ビジネスを自律的に運営できる」という宣伝文句と、法的な責任を誰も引き受けようとしない現実との間には、まだ大きなギャップがあります。
2026年時点での状況を整理すると、こうなります。ベンダーはAIの予測不能な性質を理由に責任を回避しようとしており、各国の規制当局は「利用企業が責任を持て」という立場を取っています。EUは法律で義務を明文化し、日本はガイドラインで企業の自主対応を促しています。そしてGartnerは、今のままでは2026年半ばまでに100億ドル超の是正コストが発生すると警告しています。
AIエージェントを導入するか否かという判断自体は企業ごとに異なるでしょう。ただ少なくとも、「何かあればベンダーが対応してくれる」という前提で運用するのは、現時点では危険な発想です。契約内容の確認・人間の関与設計・判断ログの整備——この3点を意識するだけで、AIに関わるリスクの多くは管理可能な範囲に収めることができるはずです。
テクノロジーの進化に法律や常識が追いつくまでには、まだ時間がかかりそうです。だからこそ今は、使う側が賢く備えることが求められています。
この記事がどなたかのお役に立てれば幸いです。
参照情報
| # | タイトル | 発行元 | 日付 |
|---|---|---|---|
| 1 | AI agents promise to 'run the business,' but who is liable if things go wrong? | The Register | 2026年4月5日 |
| 2 | Gartner Says General Counsel Should Assess AI Insurance to Mitigate AI Risks | Gartner | 2026年4月2日 |
| 3 | Gartner Unveils Top Predictions for IT Organizations and Users in 2026 and Beyond | Gartner | 2025年10月21日 |
| 4 | Launching Agentic AI in an Uncertain U.S. Regulatory Landscape | Dorsey & Whitney LLP | 2025年1月 |
| 5 | The Agentic AI Revolution Managing Legal Risks | Squire Patton Boggs | 2025年 |
| 6 | 2026 AI Legal Forecast: From Innovation to Compliance | Baker Donelson | 2026年 |
| 7 | AI事業者ガイドライン（第1.2版） | 経済産業省・総務省 | 2026年3月31日 |
| 8 | 人工知能関連技術の研究開発及び活用の推進に関する法律（AI推進法）概要 | BUSINESS LAWYERS | 2025年7月 |
| 9 | 人工知能（AI）のグローバル規制・政策動向：2025年の動きと2026年への示唆 | 荒木法律事務所 | 2026年1月 |
| 10 | Article 6: Classification Rules for High-Risk AI Systems | EU AI Act（公式条文） | — |
| 11 | Annex III: High-Risk AI Systems | EU AI Act（公式条文） | — |
| 12 | Frequently Asked Questions（AI agents関連） | European Commission AI Act Service Desk | — |