TL;DR

AIは意思決定主体にしない。責任主体は人間/法人に固定する。
構成は 遺言 -> 信託/法人 -> AI Engine -> Human Approval を崩さない。
実装の肝は policy engine audit log human override fail safe の4点。
クリティカル判断は「承認が取れなければ停止」が原則。

要約

AIを「遺す」設計は、モデル精度より責任分界が先。法的主体をAIに置かず、信託/法人を責任ノードに据え、AIは提案・執行補助に限定する。この記事は、実装可能な参照アーキテクチャと統制ポイントを提示する。

全体アーキテクチャ

法務要件をシステム要件に落とす

民法960条（遺言の方式）: 初期ポリシー定義の真正性を担保。
民法1012条（遺言執行者）: 運用開始/停止/是正の実行権限を明確化。
信託法29条・30条: 受託者の注意義務/忠実義務を運用ルールへ翻訳。
信託法31条: 利益相反取引はシステムで自動検知・停止。

システム構成（最小実装）

Policy Engine

遺言・信託契約の規範を機械可読化（例: YAML/DSL）。
リスク階層（critical/high/normal/low）をルール化。

Decision Engine (AI)

提案生成、根拠提示、代替案比較。
直接執行は許可された低リスク領域のみ。

Approval Gateway

人間承認ワークフロー。
期限切れ時は「自動実行」ではなく「保留/停止」。

Audit Log

入力データ、推論結果、承認者、実行結果を不可逆ログ化。
第三者監査向けエクスポートを標準機能にする。

Override/Failsafe

緊急停止スイッチ。
法改正・市場急変・受益者異議時の強制凍結。

責任分界（RACIの簡易版）

委託者/遺言者: 目的と価値優先順位を定義。
受託者/法人: 最終責任、統制、監査対応。
AI運用チーム: モデル更新、性能監視、異常時初動。
承認者（人間）: クリティカル判断の最終承認/却下。
監査者: ログ検証、利益相反検知、改善要求。

擬似コード（承認制御）

if decision.type == "critical":
    if not human_approval:
        hold_and_escalate()
    else:
        execute()
else:
    if policy_violation or conflict_of_interest:
        freeze_and_notify()
    else:
        auto_execute()

実運用では上記を拡張し、critical 判定を金額・法的影響・受益者影響・不可逆性で算定する。加えて、承認SLA超過時の既定動作を「実行」ではなく「保留/停止」に固定する。

NG設計 vs 正解

NG設計

AIに最終決定権を付与
外界データを遮断（法改正/市場変化に追随不能）
ログなし、説明不能
承認者不在の自動実行

正解

AIは意思実行エンジン
主体は人間/法人
監査可能ログを前提にする
Human override と fail safe を先に実装する

実装チェックリスト

遺言・信託契約から禁止条件/承認条件を抽出し Policy Engine に反映
クリティカル判定基準（金額・法的影響・受益者影響・不可逆性）を定義
承認者不在/SLA超過時の既定動作を「停止/エスカレーション」に固定
利益相反と法令逸脱を検知したら自動凍結するルールを実装
監査ログを改ざん耐性付きで保存し、第三者検証形式で出力可能にする
モデル更新時に回帰テスト + 法務レビュー + ポリシー差分確認を実行

今後の展開

Policy as Code と遺言条項テンプレートの双方向変換
監査ログの標準スキーマ化（複数受託者・監査法人連携）
AIガバナンス指標（説明可能性、逸脱率、承認遅延率）のSLO化

参考

出典リスト（2026-04-23時点）

出典名	URL	使用箇所	信頼性分類
民法第90条（公序良俗）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=129AC0000000089;article=90	Note:「法的分解」, Zenn:「原則と限界」	法令
民法第960条（遺言の方式）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=129AC0000000089;article=960	Note/Qiita/Zenn:「遺言の法的有効性」	法令
民法第1004条（遺言書の検認）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=129AC0000000089;article=1004	Note:「運用開始時の手続」	法令
民法第1012条（遺言執行者の権利義務）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=129AC0000000089;article=1012	Note/Qiita/Zenn:「遺言執行者の位置付け」「責任分界」	法令
信託法第2条（信託の定義）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=418AC0000000108;article=2	Note/Zenn:「信託を器にする理由」	法令
信託法第29条（受託者の注意義務）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=418AC0000000108;article=29	Note/Qiita:「善管注意義務」「運用統制」	法令
信託法第30条（忠実義務）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=418AC0000000108;article=30	Note/Zenn:「受益者保護」「主体責任」	法令
信託法第31条（利益相反行為の制限）e-Gov API	https://laws.e-gov.go.jp/api/1/articles;lawId=418AC0000000108;article=31	Qiita:「利益相反ガード」「fail-safe条件」	法令
AI事業者ガイドライン（第1.0版）ニュースリリース（METI）	https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html	Note/Zenn:「日本のAIガバナンス前提」	解説（政府一次情報）
AI事業者ガイドライン（資料一覧ページ, METI）	https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html	Qiita:「実装チェック項目」「継続改善」	解説（政府一次情報）
AI事業者ガイドライン改訂資料（METI, 2025-03-28資料）	https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20250328_5.pdf	Note/Qiita:「リスクベース」「Living Document」	解説（政府一次情報）
人間中心のAI社会原則（内閣府）	https://www8.cao.go.jp/cstp/aigensoku.pdf	Note/Zenn:「AIは目的設定主体ではない」	解説（政府原則）
人間中心のAI社会原則検討会議（内閣府）	https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html	Zenn:「マルチステークホルダー統治」	解説（政府一次情報）
信託会社等に関する総合的な監督指針（金融庁）	https://www.fsa.go.jp/common/law/guide/shintaku/index.html	Note/Qiita:「受託者責任を内部統制に落とす」	解説（規制当局）
信託会社等に関する総合的な監督指針（運用型信託会社）	https://www.fsa.go.jp/common/law/guide/shintaku/03.html	Qiita:「ガバナンス要件の実務化」	解説（規制当局）
受託者の義務（信託協会）	https://www.shintaku-kyokai.or.jp/trust/more/obligation.html	Note:「善管注意義務/忠実義務の実務説明」	解説（業界団体）
NIST AI RMF 1.0	https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10	Qiita/Zenn:「リスクベース統治と監査可能性」	解説（標準・公的）
OECD AI Principle: Accountability	https://oecd.ai/en/dashboards/ai-principles/P9	Note/Zenn:「責任主体は組織・個人」	解説（国際原則）
Advancing Accountability in AI（OECD Report）	https://www.oecd.org/content/dam/oecd/en/publications/reports/2023/02/advancing-accountability-in-ai_753bf8c8/2448f04b-en.pdf	Zenn:「責任主体の国際議論」	論文
Evolving AI Risk Management: A Maturity Model based on the NIST AI RMF（arXiv）	https://arxiv.org/abs/2401.15229	Qiita:「実装指標と成熟度」	論文

メモ

法令条文はe-Gov法令APIの該当条取得URLを使用。
実務論点は政府資料・規制当局・業界団体を優先し、一般ブログは採用しない。