はじめに
AIアシュアランスは、完成後にログを確認するだけの話ではありません。
自律型AIシステムでは、完成後に問われるのは、AIの出力そのものだけではありません。
その出力を、会社の正式な業務判断として扱える状態になっているかが問われます。
どの情報に基づいたのか。
どの条件を満たしたため処理が進んだのか。
例外や変更が起きたとき、どこへ戻って確認するのか。
後から同じ判断を再確認できるのか。
ここが設計されていないまま開発が進むと、完成後にログを増やしても、承認フローを追加しても、本質的な欠落は埋まりません。
ADIC / 責任OSは、この問題を扱います。
一言でいえば、自律型AIシステムを正式運用に採用できる状態か、設計段階から判定する技術です。
なぜ完成後の監査だけでは足りないのか
AIシステムでは、同じステータスでも中身が違うことがあります。
たとえば、同じ「承認済み」でも、何を確認したのかが違えば意味は変わります。
同じ「ログあり」でも、後から判断を再確認できなければ十分ではありません。
同じ「人間確認済み」でも、確認した範囲が曖昧なら、正式運用の根拠としては弱くなります。
つまり、重要なのは記録の量ではありません。
後から確認すべき差が、システムの中で消えないことです。
設計段階でその差が消えてしまうと、運用後にどれだけ監査しても、元の違いを取り戻すことは困難です。
設計段階で見るべきこと
自律型AIシステムでは、モデル、プロンプト、外部API、社内システム、人間確認、委託先、監査担当がつながり、一つの業務判断が作られます。
このとき、設計段階で少なくとも次の点を見ておく必要があります。
1. どの情報に基づく判断か
2. どの条件を満たしたときに処理が進むか
3. 例外や変更が起きたとき、どこへ戻って確認するか
4. 後から同じ判断を再確認できるか
5. 組織やシステムをまたいでも、確認情報が失われないか
ここが曖昧なままでも、システム自体は動きます。
しかし、「動くこと」と「正式運用に採用できること」は違います。
正式運用に採用するには、結果だけでなく、その結果を業務判断として扱える形になっている必要があります。
ADIC / 責任OSが見ているのは、まさにこの部分です。
ADIC / 責任OSの位置づけ
ADIC / 責任OSは、AIの出力が正しいかだけを見るものではありません。
また、単なるリスク点数化でもありません。
見ているのは、AIシステムが出した結果を、正式運用に採用できる業務判断として扱える状態になっているかです。
言い換えると、完成後に問題を探すのではなく、設計段階で「正式運用に採用できない理由」を見つけるための技術です。
これは、AIアシュアランスを開発プロセスの後段に置くのではなく、設計段階に引き上げる考え方です。
従来の見方:
開発 → テスト → 本番運用 → 監査
ADIC / 責任OSの見方:
設計段階で、正式運用に採用できる状態かを判定する
Lean 4で形式化していること
この考え方を、adic-ai-assurance-lean では Lean 4 によって形式化しています。
ここで形式化しているのは、特定の実世界AIシステムが安全である、という主張ではありません。
また、特定の法令に適合している、という主張でもありません。
形式化しているのは、AIシステムを検査可能な形で扱うためには、操作の流れと、それに対応する証拠層が一緒に保たれる必要がある、という中核部分です。
技術的には、操作の流れを表すカテゴリと、各状態に対応する証拠層を考えます。
操作の流れ
↓
対応する証拠層
↓
後から確認できる全体構造
操作だけが残っていても、なぜその操作が行われたのかを確認できなければ、正式運用の根拠としては弱くなります。
逆に、操作の流れと証拠層が一緒に保たれていれば、後から確認すべき情報が消えにくくなります。
responsibility-os-kernel との関係
adic-ai-assurance-lean が、AIアシュアランスに必要な検査可能性の中核を Lean 4 で形式化するリポジトリだとすれば、responsibility-os-kernel は、責任OSのより基礎的なカーネルに相当する位置づけです。
ここで重要なのは、AIアシュアランスを単なる運用後の監査ログに閉じないことです。
自律型AIシステムを正式運用に採用するには、そもそも設計段階で、どの情報が残り、どの条件で処理が進み、後からどの判断を再確認できるのかが決まっていなければなりません。
ADIC / 責任OSは、この確認を開発後半ではなく、設計段階から扱うための考え方です。
何を主張しないか
この点は重要です。
この形式化は、次のことを主張するものではありません。
特定のAIシステムが安全である
特定のAIシステムが法令に適合している
実運用でそのまま使えることを証明した
証拠層が現実に完全であることを証明した
主張しているのは、もっと基礎的なことです。
自律型AIシステムを正式運用に採用するには、後から確認すべき情報が途中で失われない設計が必要である。
そして、その条件は完成後ではなく、設計段階から確認すべきである。
まとめ
AIアシュアランスは、完成後の監査だけでは成立しません。
自律型AIシステムでは、後から確認すべき情報が、設計段階で消えてしまうことがあります。
その場合、運用後にログを増やしても、承認フローを追加しても、本質的な欠落は埋まりません。
ADIC / 責任OSは、自律型AIシステムを正式運用に採用できる状態かを、設計段階から判定する技術です。
AIアシュアランスは、完成後に始まるものではありません。
設計段階から始まるものです。