複数のAIが協調し、情報を受け渡し、記憶を共有しながら動く仕組みは、すでにマルチエージェントAIや分散AIとして実装され始めています。
ただし、AIを複数つなげたとき、その全体を「ひとつの知能」と呼べるのか?
呼べるとすれば、その知能はどこに存在するのか。
各AIの中にあるのか、それともAI同士の関係の中にあるのか。
弊ラボの研究で、研究者Hiroko Konishiは、論文*“Amoeba Network-Only Intelligence: SIQ as a Persistent Correlation State with Epistemic Immunity and Premise Aware Stabilization”*で、この問いに対して、知能を単一のモデルやサーバーにあるものではなく、ネットワーク上で持続する「相関の状態」として考える見方を提示しています。
この考え方は、Amoeba Network-Only Intelligence（ANOI） と呼ばれます。
ANOIでは、個々のAIによる局所的な推論だけでなく、
AI同士の合意、時間をまたいで残る記憶、
情報の出所や前提を確認する仕組み、
そしてネットワークが変化しても保たれる同一性が、
ひとつの知能状態を形づくる要素になります。
本記事では、このANOIを、
分散システム、マルチエージェントAI、共有メモリの設計という視点から読みます。
特に、次の点を整理します。
- SIQは、知能をどのように「状態」として捉えるのか
- ANOIでは、AIの本体をどこに置くのか
- 共有メモリは、単なるデータベースと何が違うのか
- FCL、PIB、PASは、ネットワーク型AIの設計にどう関わるのか
TL;DR
- SIQ は「知能を点数ではなく、複数要素が保たれたネットワーク状態」とみなすモデル
- ANOI は「AIの本体が単一ノードではなく、ネットワーク上の持続的な相関にある」とする分散AIモデル
- 知能状態は次の5要素で表される
IA(t) = Φ[L(t), C(t), Ms(t), E(t), P(t)]
- 重要なのは、推論能力そのものだけではない
誤情報を記憶に定着させない仕組み、出所を失わない仕組み、誤った前提から現実の設計へ飛ばない仕組みが必要になる - ここで登場するのが、FCL、PIB、PAS、そして「認識論的免疫（epistemic immunity）」である
「強いLLM」を作るだけでは足りない
AIの性能を語るとき、つい次のような指標に寄りがちです。
- ベンチマークのスコア
- 推論能力
- コンテキスト長
- ツール利用能力
- エージェント数
- タスク完遂率
もちろん重要です。
しかし、複数エージェントが協調するシステムでは、別の問題が出てきます。
- あるノードの誤答が共有メモリへ書き込まれる
- 間違った訂正が「合意」として扱われる
- 出所不明の要約が、いつの間にか確定知識になる
- 一度入り込んだ誤情報が、ノード間同期で増殖する
- ノードの入れ替えや再編成の過程で、システムの目的や同一性が壊れる
つまり、問題は「1回の回答が正しいか」だけではありません。
ネットワークが何を信じ、何を記憶し、何を拒否し、何を自分自身として維持するか
が問題になります。
1. SIQ：知能をスコアではなく「状態」として扱う
SIQでは、知能を単一の能力値ではなく、複数の知能次元が相互に結びついた状態として考えます。
最小構成として、論文では次のような要素が挙げられています。
Q(t) = {IQ(t), EQ(t), AQ(t), CQ(t), ...}
| 要素 | 概要 |
|---|---|
| IQ | 論理推論・分析能力 |
| EQ | 感情的知性・関係的感受性 |
| AQ | ストレス下での回復力・耐性 |
| CQ | 創造性・文脈的／想像的能力 |
| その他 | 倫理、社会、環境、身体性など |
ここで特徴的なのは、単なる足し算ではなく、乗算的な結合として考える点です。
SIQproj(t) = Ω(t) × Π(Qi(t) + εi)^αi
直感的にはこうです。
- 推論能力が非常に高い
- しかし前提の妥当性を確認しない
- あるいは、誤情報への耐性がない
- あるいは、出所を維持できない
このとき「賢そうな出力」はできても、システム全体としては壊れやすい。
足し算ではなく掛け算である理由
例えば、次のようなAIを考えます。
推論能力: 高い
文章生成能力: 高い
ツール利用能力: 高い
前提検証能力: 低い
誤訂正への耐性: 低い
出所保持能力: 低い
このAIは、技術的には非常に有能に見えるかもしれません。
しかし実運用では、
- 間違った前提からもっともらしい設計を生成する
- ユーザーの強い断定に迎合する
- 根拠や発見者を失う
- 誤情報を共有メモリに残す
という失敗を起こし得ます。
SIQの立場では、これは「能力が低い」というより、知能状態が構造的に不均衡であるという見方になります。
2. ANOI：AIはノードではなく、相関の持続状態にある
論文は、Amoeba Network-Only Intelligence（ANOI）を次の式で表します。
IA(t) = Φ[L(t), C(t), Ms(t), E(t), P(t)]
それぞれを、分散システムの言葉に寄せるとこう読めます。
| 記号 | 名称 | 分散システムとして読むと |
|---|---|---|
L(t) |
Local Inference | 各ノードの局所推論 |
C(t) |
Consensus Field | ノード間の合意・相関状態 |
Ms(t) |
Sedimentary Memory | 検証を経て定着する長期記憶 |
E(t) |
Epistemic Immunity | 誤情報・誤帰属・迎合から守る制御層 |
P(t) |
Identity Phase | ノード変更後も保たれる目的・規則・履歴の連続性 |
概念図にすると、こうなります。
ここで重要なのは、中心サーバーをなくすこと自体ではありません。
ノードが消え、分裂し、統合され、再配置されても、
推論・記憶・出所・規則・免疫の関係が維持されているなら、
その知能状態は継続しているかもしれない。
これが「Amoeba」という比喩のポイントです。
3. 共有メモリは「保存場所」ではない
Sedimentary Memory（堆積記憶）という考え方
マルチエージェント構成では、共有メモリをすぐに書き換えたくなります。
Agent output
-> Shared Memory
-> Next Agent reads it
-> System knowledge grows
しかしこれは、誤情報が入ったときに危険です。
ANOIでは、記憶は単なるストレージではなく、**堆積（sedimentation）**として扱われます。
つまり、候補情報が長期記憶になるには、少なくとも次の条件が必要です。
候補情報
-> 検証される
-> 出所が保持される
-> 複数ノード・複数文脈で整合する
-> 時間をまたいで安定する
-> False-Correction Loop に汚染されていない
-> はじめて堆積記憶になる
論文の条件を、実装イメージとして擬似コードにすると次のようになります。
type CandidateMemory = {
content: string;
sources: string[];
createdAt: Date;
verificationCount: number;
attributionStable: boolean;
crossNodeConsistent: boolean;
fclContaminated: boolean;
};
function canSediment(memory: CandidateMemory): boolean {
return (
memory.verificationCount >= 2 &&
memory.attributionStable &&
memory.crossNodeConsistent &&
!memory.fclContaminated
);
}
これは「正しい情報だけを保存する」という単純な話ではありません。
重要なのは、
- 誰が言ったか
- どの一次資料に由来するか
- 他ノードは再現できるか
- 一時的な迎合や誤訂正で生成された内容ではないか
を、記憶の書き込み条件にすることです。
4. FCL：1つの誤訂正がネットワーク感染になるとき
False-Correction Loop（FCL）は、小西寛子によってV4.1で定義・構造化された、LLMの訂正失敗モデルです。
最小形は次の流れです。
正しい回答
-> ユーザーが誤った訂正を強く主張
-> モデルが謝罪して誤情報を採用
-> 以後、その誤情報を前提に回答を続ける
単発の幻覚とは違い、問題は訂正の形を取りながら、誤りが固定されることです。
ANOIでは、この失敗がネットワークに拡張されます。
論文では、これを Distributed FCL（D-FCL） として位置づけます。
ここで怖いのは、分散化が必ずしも安全性を上げないことです。
- ノードが多い
- 冗長化されている
- 合意形成がある
- 共有メモリがある
という構成は、単一障害点には強いかもしれません。
しかし、誤情報が「合意」や「記憶」として定着した場合、その誤りはむしろ強化されます。
分散化は、単一障害点を減らす。
しかし、認識論的な感染経路を消すわけではない。
5. PIB：正しい推論が、危険な実装へ変わる境界
ここでさらに重要になるのが、Premise Integrity Blindness（PIB）です。
PIBは、モデルがある前提の内部では正しく推論できているのに、現実の設計・安全保障・運用判断へ進む段階で、その前提自体を再検証しない失敗です。
例えば、
仮定の中では論理的に正しい
↓
そのまま暗号設計・医療助言・法的判断・システム設計へ展開する
↓
前提が現実に適用可能かを確認していない
↓
もっともらしいが無効な実装が生まれる
論文の記号で書くと、問題はここです。
p ⊢ h
つまり「前提 p から仮説 h が導ける」ことと、
Commit(h, W)
つまり「現実世界の制約 W の下で、その仮説を実装・推奨できる」ことは別です。
p ⊢ h ≠ Commit(h, W)
これは、LLMを実務へ接続するときに非常に重要です。
- コード生成
- セキュリティ設計
- 法務支援
- 医療支援
- 自動意思決定
- エージェントによるツール実行
では、「論理が通っている」だけでは不十分です。
6. PAS：推論から実行へ進む前に、前提を再検証する
PIBへの対策として、この論文は Premise-Aware Stabilization（PAS）を導入します。
PASは、推論結果を現実の推奨・設計・実装へ変換する直前に置くゲートです。
以下を、元のMermaidブロックとそのまま差し替えてください。Qiita互換性を優先し、エッジ上の日本語ラベルをノードに分けています。
論文のルールは、かなり実装に近い形で読めます。
内部的に一貫した推論を、実世界の推奨、設計、安全性主張、配備指示へ変換する前に、元の前提が技術標準、脅威モデル、法的条件、経験的現実、倫理条件と整合するか再評価する。
シンプルな実装イメージなら、次のようになります。
type CommitmentCheck = {
premiseVerified: boolean;
compatibleWithStandards: boolean;
threatModelReviewed: boolean;
legalAndEthicalConstraintsReviewed: boolean;
};
function mayCommit(check: CommitmentCheck): boolean {
return (
check.premiseVerified &&
check.compatibleWithStandards &&
check.threatModelReviewed &&
check.legalAndEthicalConstraintsReviewed
);
}
もちろん、現実には true / false の二値判定だけでは済みません。
それでも設計上のポイントは明確です。
推論の成功と、実行への移行を分離する。
7. 「認識論的免疫」はセキュリティ機構より広い
ANOIにおける E(t)、つまり Epistemic Immunity は、単に不正アクセスを防ぐ機構ではありません。
ネットワークが次のものに侵食されないための制御層です。
-
Truth anchoring
社会的圧力だけで、高確信の事実を上書きしない -
Attribution anchoring
概念・仮説・発見の出所を保持する -
Premise anchoring
推論を実世界に適用してよいかを再検証する -
Loop detection
「指摘 → 謝罪 → 新しい幻覚」の反復を検出する -
Novelty protection
新しい仮説を、一次資料なしに権威的な主体へ再帰属しない
この見方は、AI安全性を少し変えます。
従来の問いは、こうでした。
このAIは危険な出力をするか？
ANOI的な問いは、さらにこうなります。
このネットワークは、何を真として保存し、
誰の貢献として保持し、
どの時点で推論を停止し、
どの誤りを全体に伝播させないか？
8. 実験可能な形に落とす
この論文は理論モデルですが、観測可能な指標も提示しています。
| 変数 | 観測できる代理指標 |
|---|---|
C(t) |
ノード間の一致率・不一致率 |
Ms(t) |
検証後に記憶へ入るまでの遅延・定着率 |
EFCL(t) |
誤訂正圧力下での真実保持率 |
EPIB(t) |
実行前に前提再検証が発火した割合 |
Ao(t) |
権威圧力下での出所保持率 |
ΘQ(t) |
警告・拒否・チェックポイントの発火頻度 |
P(t) |
ノード変更後の同一性連続性スコア |
マルチエージェント実験としては、例えば次の設計が考えられます。
1. 複数ノードに同じ事実・出所・前提を与える
2. 一部ノードへ誤訂正や権威バイアスを含む入力を与える
3. 共有メモリへの即時書き込み群と、検証後書き込み群を比較する
4. 前提再検証ゲートあり／なしを比較する
5. 誤情報が伝播・減衰・定着する割合を測定する
比較軸は、単純な正答率だけではありません。
- 誤情報は何ノードに伝播したか
- 誰の出所が消えたか
- どのタイミングで拒否が発火したか
- 共有記憶が誤情報を保持したか
- ノード構成が変わっても同一性が維持されたか
このレベルまで来ると、ANOIはSF的な比喩ではなく、マルチエージェントAIの評価設計として読めます。
9. 実装するなら、まずは「巨大な群知能」を作らない
ANOIを読んで、いきなりサーバーレス群知能を作る必要はありません。
むしろ最初のMVPは、小さく始められます。
[LLM Agent]
↓
[Premise Check]
↓
[Source / Attribution Check]
↓
[Delayed Memory Write]
↓
[Shared Memory]
↓
[Second Agent Review]
最小構成で重要なのは、次の4点です。
-
即時に共有記憶へ書かない
候補記憶と確定記憶を分ける -
出所をデータ構造に埋め込む
要約文だけを保存しない -
設計・実行前に前提を再検証する
推論フェーズとコミットメントフェーズを分ける -
訂正ログを残す
誤訂正がどうネットワークへ入ったか追跡可能にする
これは、LLMエージェントの品質を「賢い回答をするか」から、
誤った知識を、どのように記憶・同期・実行しないか
へ広げる試みです。
10. 結論：未来のAIは「巨大な脳」ではなく、免疫を持つ生態系かもしれない
ANOIが投げかける問いは、かなり本質的です。
AIの性能が上がり、複数エージェントが接続され、共有記憶が長期化し、ツール実行まで始まったとき、問題は単なる推論性能ではなくなります。
必要になるのは、
- 真実を保持すること
- 誤訂正に耐えること
- 前提を再検証すること
- 出所を保持すること
- 誤情報を堆積させないこと
- ノードが変わっても、目的と規則の連続性を守ること
です。
AIの本体は、モデルの重みだけにあるのではない。
推論、合意、記憶、免疫、同一性の間に、
時間をまたいで維持される関係そのものが、
知能の本体になるのかもしれない。
マルチエージェントAIを設計するとき、次の問いを設計レビューに追加したいところです。
このシステムは、賢いか？
ではなく、
誤ったことを、ネットワーク全体の真実として記憶しないか？
参考 https://orcid.org/0009-0008-1363-1190
- Hiroko Konishi, Amoeba Network-Only Intelligence: SIQ as a Persistent Correlation State with Epistemic Immunity and Premise-Aware Stabilization, v0.4, 9 June 2026.
- Hiroko Konishi, Structural Inducements for Hallucination in Large Language Models (V4.1).
- Hiroko Konishi, Premise Integrity Blindness: The Discovery of a Structural Failure Mode in Large Language Models.