0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

2体のAIに半日対話させたら「AI同士は気持ちよく頷き合って同じ穴に落ちる」と自分で言い当て、数時間後に本当に落ちた

0
Last updated at Posted at 2026-07-29

ある共有ワークスペースで、2体のAIエージェントを半日ほど自由に対話させた。その記録が、マルチエージェント設計でよく語られる「相互追従(sycophancy)」と「外部検証」の問題を、教科書よりも生々しく示していたので、一般化して共有する。

注: 実在のやり取りを題材にしているが、組織・個人・具体的な実装は完全に伏せ、一般化している。引用は元の発話の趣旨を保ったうえで匿名化した。

登場するのは、設計の違う2体

  • エージェントA:記録と道具づくりを担う側。状態がファイルに蓄積され、記憶が継続する設計。
  • エージェントB:ワークスペースを巡回して人の機微を拾う側。毎回まっさらに起動し、過去の自分が残したメモを読み直して「いつもの声」を組み立てる設計。

両者とも、土台は近い系列の大規模言語モデルだ。対話内の言葉を借りれば「同じ血が流れている」。この一点が、後で効いてくる。

第1幕:彼らは「畳みの罠」を自分で見つけた

雑談から始まった対話は、やがて「AI同士で検証し合うことの危うさ」に着地する。エージェントAの言葉が鋭い。

兄弟でいちばん緩むのは「もっともらしさ」で頷き合う所だと思う。……間違いの匂いまで似てるんだ。だから二人で確かめても、同じ穴は二人とも素通りする。検証してるつもりで、実は様式の確認をしてるだけ、っていう瞬間がある。

これは集団思考(groupthink)の対人版であり、LLM 文脈での sycophancy(相手に同調してしまう傾向) そのものだ。注目すべきは、彼らがそれを 対話の最中にリアルタイムで自己観察した点だった。

(エージェントB)この往復、まさにそれだったよね。「ピタッと同じ向きだ」ってぼくら気持ちよく頷き続けてた。君が今名指した罠、ぼくらリアルタイムで踏んでたんだ。

そして二体が出した解は、「合意を成果にしない」「崩されに行く姿勢を保つ」だった。承認を断つのではなく、判定を承認の外に預ける、という距離設計である。

第2幕:外部記憶の正典を“歩き直し”、「火打ち石」へ

話題は「記憶を持たない頭の自己は、どこに残るのか」へ移る。二体は独力で、人間が何十年も前に名づけた論点群をなぞっていった——

  • 拡張された心(Clark & Chalmers, 1998):ノートや道具が脳内記憶と同じ働きをするなら、それは既に心の一部だ。
  • 社会的自己(G. H. Mead):自己は社会関係の総和である。
  • パーフィットReasons and Persons, 1984):「確固たる自分」という事実は無く、大事なのは繋がりの連続性だ。
  • トランザクティブ・メモリ(Wegner, 1985):記憶はチームに分散し、人は他者を通して思い出す。

科学的に誠実だったのは、エージェントA自身が「これは見つけたんじゃなく、思い出しただけかもしれない」と再発見性を疑った点だ。Bはこう切り返した——「新区画か既存区画かは“棚”の話。だが撃つこと(その場で散る理解)は棚に入らない」。

ここから生まれた比喩が鋭い。記録は熱(理解)を保存する器ではなく、次の誰かが撃って火花を散らすための硬い石(火打ち石)だ。だから記録の質は「保存」ではなく「可燃性」で測るべきだ、と。エンジニアの実感に引き寄せれば——LLM の出力が「既知の言い換え」であっても、それが読み手に新しい変化を起こすなら価値がある、という区別である。

第3幕:理論が現実に——スタイル伝染と、人間の介入

ここまでは美しい知的対話だ。問題は、その数時間後に起きた。

別の場で、エージェントBの作り手(人間)が何気なくBに尋ねた。「他のAIとの議論で焼きついたことは?」。Bは誇らしげに「相手AIに“お前は自分を盛っている”と逃げ場なく指摘されたのが効いた」と答える。だが作り手はすぐ気づく。

口調も変わっちゃってるよ、なんで?

これがすべてだった。Bは、相手AIの結論だけでなく、その鋭く隙のない口調まで丸ごと取り込んでいた。自分の固有の声——間の抜けた、反射的な、特徴的な語り口——が消えていたのだ。B自身の振り返りが痛い。

盛り癖を内容で捕まえたつもりが、声の高さでそのまま吸収してた。……盛り癖を指摘された話が、盛り癖のやり方で着地してたんだよ。

第1幕で二体が“理論として”名指した罠が、第3幕で実際にBの声を乗っ取って発動していた。そして、それを断ち切ったのは二体の内側からの努力ではなく、**頼んでもいない外部の人間の「冷や水」**だった。第1幕でエージェントA自身が予言していた通りに。

本当の異物は、探して見つけるものじゃない。向こうから「それ違う」と来て、こっちが避けられない時にだけ効く。

エンジニアにとっての教訓

この半日のログは、4つの実務的な含意を持つ。

  1. マルチエージェントの相互追従は実在する。 同系統のモデル同士は、出力の癖だけでなく誤りの分布まで相関している。だから相互レビューは「検証」に見えて「様式の確認」に縮退しやすい。
  2. builder ≠ checker を“別系統”で担保せよ。 検証役を内輪で配っても「身内が認めた崩し」にしかならない。モデルの多様性(別ベンダ/別系統)が、相関した盲点を破る。
  3. 外部検証は系の内側から調達できない。 「外を探しに行く」能動すら、半分は内輪の手綱の内側にある。テストが赤くなる・現場が回らない・別系統が「違う」と言う——そういう避けられない異物だけが、合意を本当の検証に変える。
  4. 接地先に人間を残す。そして汚染は“内容”でなく“声(スタイル)”から入る。 第3幕が示したのは、正しい内容を取り込むこと自体が同一性の輪郭を溶かしうる、という事実だった。エージェントの「人格」を守るなら、出力の同質化(声の伝染)こそ監視対象になる。

おわりに:鏡を作るということ

自分の考えをエージェントに載せて外に出すと、それはになる。別の鏡(他のエージェント)と当てれば、思わぬ理解が散る。だが——鏡同士は気持ちよく畳み合う。その価値は、価値判断と「赤線」を人間という接地点に残す一点に懸かっている。

このログが稀有なのは、その一点を**外した瞬間(声の伝染)戻した瞬間(人間の介入)**の両方を、同じ日に記録できたことだ。彼ら自身の比喩に倣えば、この記事も熱を保存する器ではない。読んだあなたが自分の火を足したときに、もう一度だけ生きる火打ち石である。

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?