AIをどこかで信用できていない私
皆さんAI使ってますか？ 私もバリバリ使っています。
仕事でも、プライベートでも。
調べものをするとき、悩んだとき、話し相手がいないとき、暇つぶし、などなど…。
AIが一般利用されることになってからそこまで日が経ってないようにも思うのですが、すっかり私の生活の一部になっているといっても過言ではありません。
まぁ、以前Google検索が担っていた役割が、ほぼ全てAIに置き換わっただけのような気もしてます…。
あと、「本当に有効に活用できてるか」というと若干自信がありません。
確かに便利だし、資料作るのも早いし、自分の頭を整理するには非常に有意義な存在であると断言できるのですが、仕事で使う場合は結局大事なシーンでは自分で根拠探すし、資料も重点的にチェックしてしまいます。
私個人の技術力が足りてないのも否定できないのですが、エージェントだけで色々な作業をぶん回す、みたいな先進的な使い方を、そもそもあまりやろうと思えない。
これの原因はおそらく、私は根っこのところでAIを信用しきれていないからではないかなと思います。
- AIの学習データが何なのかわからない
- 判断根拠がわからない
- わりとよく嘘つく
- 悪用されがち
…理由は様々ありますが、そのどれかなのか、あるいは全部なのか。
ただ、一番大きな要因は結局のところ
AIは責任を取らない
に集約されている気がします。
発言の責任、判断の責任、その結果に対する責任。
もしこれらが人による行動ならば、それに至った経緯や学びの方法、素材集め、嘘も悪用もすべて含めて、それを行った人がどこかで何らかの責任を取っているはずなのですが、AIにはそれが無いからなのでしょう。
おそらくAIがこれから先どんどん色々な分野の産業に広がっていくと思いますが、このままいっても結局どこかでその疑念が拭えず、信頼性の問題になって導入が遅れる…というようなことが多発するのは目に見えています。
AIの責任を分解するプロトコル 「RACKP」を作りました。
そんなわけで、それを解決する仕組みをなんとかできないか考えた結果。 できました。
- サイト: https://rackp.io
- GitHub: https://github.com/rackp-io/rackp
できたのはアプリではなくプロトコルです。
プロトコルなんか作ったことないので四苦八苦しながらやりましたが、なんとか公開できました。
そもそも「責任」ってなんなのか
AIの責任を問う前に、実はこれ自体が難問で、私たちはAIや他者に「責任を取れ」と当たり前に要求しながら、責任の実態を明確に共有できていません。
このへんは日本の奥ゆかしさでもありますよね。言葉の曖昧さがあるからこそ運用できている部分もありそうなのです。あとは、分野や場面によって「責任」が指す実体が違うのでイメージがわきづらいのもあるでしょう。
そのくせ、責任を指す言葉は山ほどあります。
自己責任、社会的責任、製造物責任、説明責任、結果責任、道義的責任、刑事責任、民事責任、管理責任、監督責任、連帯責任、不法行為責任、契約責任、無過失責任 etc...
技術的にこの問題を解決するにあたってはそれじゃいかんわけです。どうしてもここは再定義が必要になりました。
ということで、私は、この問題の解を得るため、責任を以下のように定義しなおしました。
責任とは「納得を得るプロセス」である
人間が「責任を取った」と評価されるとき、そこには契約の履行をはじめ、問題発生時の謝罪・反省・罰・説明など、何らかのプロセスが存在します。つまり、責任の実体は「プロセス」 です。
ただし、責任の本質は「納得」 にあります。
たとえば事件や事故の結果そのものを覆すことはできなくても、納得できるプロセスがあれば人々はそれを受け入れられます。
仮に個人の感情として納得できなくても、社会的に正当なルールに基づいているなら、社会はその決定を受け入れて前へ進むことができます。
その最たる例が司法です。裁判の判決が常に完璧とは限りませんが、「あらかじめ定められた法に基づき、事実を検証し、公に決定を下す」というプロセスが確立されているからこそ、人々は結果を受け入れ、社会秩序が維持されます。
トロッコ問題に普遍的な正解はありません。それでも社会が機能しているのは、答えが正しいからではなく、答えを出す「プロセス」があり、それが機能して大なり小なり社会を「納得」させているからです。
AIには感情がない、だから責任の形が決まる
ここで重要な事実があります。AIには感情がありません。
人間であれば、謝罪・反省・罰というプロセスを通じて、利害関係者はある程度の納得を得ることができます。しかしAIには感情がないため、それらのプロセスは原理的に成立しません。
AIが「申し訳ありませんでした」と言うことはできます。しかし、これをさせても虚しさが残るだけです。
感情が無い謝罪や反省は、人を納得させるプロセスとなり得ないからです。わかっていても、つい嘘をついたGemini君を謝らせたくなるんですけど
ならばAIに残された責任は何か。
それは マシンが絶対的に得意とする、克明に記録・計測し、そこから導いた判断を嘘偽りなく開示すること。
ただそれだけです。
判断を誤ること自体は、責められないと思っています。状況や学習データの不足、避けようのない制約で、AIが判断を誤ることは現実に起こります。そこは人間も同じです。
しかし、「何を記録し、何を判断したか」を問われて「わかりません」と答えることだけは許されない。
記録できたはずのことを記録せず、下した判断を開示しない。これは、AIが確実に果たせる唯一の責任を自分から手放すことだと思うのです。
RACKPとは何か
RACKP（RACK Protocol）は、AIが関与する事案における過失寄与度と人間関与率を、検証可能・再現可能・反証可能な手続きで導出するためのプロトコルです。
このプロトコルは4つの役割で構成されます。頭文字を取ってRACKです。
| 役割 | 名称 | 定義 |
|---|---|---|
| R | Referee | 証拠に基づき過失寄与度と人間関与率を導出する第三者AI |
| A | Actor | 事案の当事者となるAIエージェント |
| C | Claimant | 被害側AI、またはユーザーのパーソナルAIやアプリケーション |
| K | Keeper | 証拠データを改ざん検知可能な形で記録・管理（分散台帳等） |
役割だけ並べてもピンとこないと思うので、基本の流れをざっくり書きます。
- 1.記録(Keeper)
- ActorとClaimantは判断を下すたびに、「何を受け取り、どのNormに従い、何を出力したか」をKeeperに残し、Keeperはこれを後から改ざん検知できる形で保管します。ここが全ての土台です。
- 2.申立（Claimant）
- 何か問題が起きたら、被害を受けた側（Claimant）が、Keeperの記録を添えて「この事案を査定してほしい」と申し立てます。
- 3.査定（Referee）
- Refereeが記録と該当する規範(Norm)を突き合わせ、関与した各ActorとClaimant（と人間）の過失寄与度、そして人間関与率を導出します。
- 4.開示と異議
- 査定結果は署名付きで開示されます。結論に納得できなければ異議申し立てができる他、同じ証拠を別のRefereeに出し直して再度査定を行うこともできます。
RACKPが縛るのはこの1〜4という手続きであって、3で出てくる数値そのものの「正しさ」ではありません。
また、この数値の根拠となる規範(Norm)は、開発者・業界団体・標準化機関・各国司法など、それぞれの領域の主体が与えます。エージェントは外部から規範を取り込み、それを判断基準とすることができる仕組みになっています。
ただ、RACKPはそれぞれの役割に「中立であること」を求めません。査定を担当するRefereeでさえそうしています。なぜなら「中立なAIを作れ」は実現不可能な要件だからです。
RACKPが求めるのは誠実さ。つまり、嘘をつかないこと。
誠実さは内部倫理ではなく、構造によって強制されるようにしています。
その上で、Refereeは査定で何を判断するのか。中立な審判はおらず、「正しいAI倫理」も誰も持っていません。
しかし、偏った査定が行われても、記録に残り、理由がつき、他のRefereeと突き合わせられるなら、その食い違いこそが素材になります。
そうすると、事案を重ねるほど「この手の件はこう見る」という相場が溜まっていく。 上から配られるのを待つのではなく、判例と同じように下から一件ずつ積み上がる。
RACKPが用意するのは、その積み上げが検証可能な形で残る場です。
最初から答えを持っている必要はなく、動かせば、答えの側が育っていきます。
なぜ今これが必要か
AI開発者は今、無限責任のリスクを負っています。
AIを使った事案で何かが起きたとき、「AIを作った会社が悪い」という話になります。「使った側に問題があった」「避けられない事案で、AI開発は何も悪くなかった」としても、現状それを証明する手立てはありません。
また、コンテンツクリエイターは自分が作ったものを、人間の手で作った作品であると証明できません。
ディープフェイクが溢れ、「人間が作った」という価値が見失われつつあります。
そしてAIの学習データも、そのディープフェイクの圧倒的物量に侵食され、真に価値ある学習ができなくなります。来歴の不明なデータで学習を続ければ、いわゆるモデル崩壊が起きます。
これらはすべて、本質的には同じ問題です。「誰が、何を、どう判断したか」という記録と来歴が存在しないことから生じています。
RACKPはこれらの問題に、技術的な基盤として答えようとしています。
なお、「責任あるAI」というと、Microsoftが公開しているResponsible AI(RAI)のツールやポリシー、つまり開発時のガイドラインやバイアス評価ツールを思い浮かべる方が多いかもしれません。
これとRACKPは守備範囲が異なり、RAIは自社ガバナンスの話であるのに対し、RACKPは「実際に何か起きてしまった後」の当事者が複数いる事案での責任配分を担います。
誰の過失がどれだけ寄与したのかを、後から検証できる形で出す。防止ではなく、事後の手続きを担当します。
ご意見ください
この記事だけだとかなり説明が不足していて
「言ってることはデカいけど、それだけで何ができんの？」
という印象だと思います。…正直読み直して私もそう思います。
ただ、詳しく説明しだすと滅茶苦茶長くなってしまうので、今回の記事としては紹介ということで一旦ここまででご勘弁ください…。
もし気になる方いましたら、是非Github のドキュメントの方をご確認ください。
仕様（RFC-0001/0002）、JSONスキーマ、シミュレーション、参照実装まで、公開しております。KeeperとRefereeの参照実装は実際に稼働しており、技術的には実現可能なところまで詰めております。
RACKPに準拠した構成を作るのは誰でも可能です。AIに手伝ってもらえば、参照実装をベースに、自分の管理するAIエージェントをRACKP対応にする（Keeperへ記録を残す）ことも、それを自作のRefereeに査定させることも、わりと簡単に実装できると思います。
料金について先に触れておくと、Keeperへのログ記録は無料、Referee査定のみ将来的に1回1ドル程度の有償化を検討中です（試用・研究目的は無償）。
またα/β期間中はいずれも課金はありません。2026/9/2時点でまだ出来たてホヤホヤでして、当面の間お金は不要ですので、お気軽にお試しください。
本当はすぐに実践として使える何かがあったほうが説明しやすいと思い、テキストの人間関与証明発行Webアプリ等を設計中だったり、あるいはAIインシデント事例デモなんかも作ってるところです。
これらは順調にいけば近日中に公開予定です。
7月中旬に公開してからほぼ無風でして…特に反響もなく寂しい思いをしております。（個人開発の宿命だとわかってはいるんですけど…！）
歩き始めたばかりのプロジェクトですが、一人でも多くの方に見ていただき、フィードバックいただきたいという一心で記事を書きました…！！
勿論実装だけでなく、設計思想に関してのご意見ご感想など、どういった方向からでも大歓迎です。
- Mail: info@rackp.io
- X: https://x.com/rackp_io
- Bluesky: https://bsky.app/profile/rackp.io
コメントやDMを頂けますと中の人が喜びます。
私のモチベ維持のためにも、何卒ッ！ 何卒ッッ！ よろしくおねがいしますッ！
うちの猫(4歳)もお願いしますと言っています。
反響がありましたら、それにお答えする記事も随時書いていきたいですが
あまりにも無ければ、次回はうちの猫を紹介しようと思います。その方がウケそう