あなたのSNSフィードは鏡じゃない
― 推薦システムが学ぶ「反応 ≠ 選好」を、心理学と強化学習で読み解く
X（旧Twitter）が For You フィードのアルゴリズムをオープンソース化しました。これは単なるコード公開ではありません。**「注意の委譲」**が、誰でも読めるコードとして可視化された、という出来事です。
「次に何を見るか」の選択が、「過去に何をしたか」の残滓で訓練されたモデルに引き渡されている ── この記事は、その構造を技術と心理学の両面から読み解きます。
最初に、心理学から二つの補助線を引いておきます。この記事全体が、この二つの区別の上に立っています。
- 顕示選好（revealed preference）と表明選好（stated preference） ── 行動経済学の区別。前者は「行動から推測される選好」、後者は「本人が反省して述べる選好」。あなたがクリックしたもの（revealed）と、あなたが本当に見たいもの（stated）は、しばしば違う。
- System 1 と System 2 ── Kahneman の二重過程理論。System 1 は速く・自動的・感情的な反射、System 2 は遅く・熟慮的な反省。
この記事の主張を先に一言で言うと ── フィードが学ぶのは revealed preference / System 1（反射）であり、あなたが「自分」と呼ぶのは stated preference / System 2（反省）である。そして両者は一致しない。
1. フィードは鏡のように感じる
アプリを開いてスクロールすると、数秒でフィードがあなたを「分かっている」ように感じます。この効果は不気味なほどで、人は親密さの言葉を使います ── 「私を分かってる」「心を読まれてる」と。
でも、推薦システムは、あなたの安定した自己や価値観、反省して支持する選好についての理論を持っていません。もっと安価で、もっと手に入りやすいものを持っている ── あなたの反応の履歴です。タップ、滞留（dwell）、返信、プロフィール確認、その一つひとつが痕跡（trace）です。フィードは痕跡から作られています。
鏡は、あなたが何であるかを映す。反応予測ループは、あなたが何をするかを映す。この二つは同じではなく、その差にこそリスクが宿ります。
これは心理学の言葉そのままです ── 鏡が映すのは stated preference、反応予測ループが捉えるのは revealed preference。
2. X が公開したのはフィードのアルゴリズムではない。委譲である。
2026年1月、X は推薦コードを GitHub の xai-org/x-algorithm リポジトリに公開しました。2026年5月15日、Elon Musk が大型アップデートを告知 ── 実行可能なエンドツーエンドの推論パイプライン、ダウンロード可能な学習済みモデル、広告ブレンドモジュール、コンテンツ理解の新コンポーネントを出荷しました。
ここで、リポジトリが何であって何でないかを正確にしておきます。
それは X の魂のすべてではない。本番システムそのものでもない。実際にトラフィックを捌いている重み、訓練データ、A/Bテスト、実ユーザーへの下流効果でもない。リポジトリの文書自身が、公開モデルは内部のものの「representative（代表的なもの）」だが特定のスケーリング最適化を除く、と注記しています。本番で動いているものの独立検証は、サーバーへのアクセスなしには不可能です。
しかし、委譲のアーキテクチャを見るには十分です。問うべきはこうです ── 「これは X の完全な真実か」ではなく、「人間の注意の選択が、反応履歴で訓練されたモデルに引き渡されると、何が起きるか」。
3. アーキテクチャ：ユーザー履歴から予測された反応へ
For You フィードを開くと、システムは候補取得・フィルタ・スコアリング・ランク付けの多段パイプラインを、1秒未満で走らせます。
スコアリング（④⑤）を式で書くと、投稿 $p$ のスコアは、予測された各アクション $a_i$（favorite, reply, repost, click, dwell, follow…）の確率の重み付き和です。
$$
\text{score}(p) = \sum_{i} w_i \cdot P(a_i \mid u, p)
$$
ここで $u$ はユーザーの文脈（履歴）、$w_i$ は各アクションの重み。予測アクションは抽象的ではありません ── favorite、reply、repost、quote、click、profile click、video view、dwell、follow author、そして not interested、block、mute、report も含む。
肝は、システムが問うている質問にあります。それは主に「この投稿は良いか？」ではない。「このユーザーはこの投稿に対して何をするlikely か？」です。これはあなたの道徳モデルではない。行動予測システムです。
4. 中心の移動：relevance は反応から学習される
リポジトリには、この移動を名指す一文があります。エンジニアリングチームは、システムからハンドエンジニアリングされた特徴量とほとんどのヒューリスティクスをすべて排除したと書き、Grok系Transformer が、あなたのエンゲージメント履歴を読んで何が relevant かを決めることで「重い仕事を全部やる」と述べています。システムは relevance の学習を完全にTransformer に依存している、と。
ここでタイトルが意味を持ちます。注意の選択が委譲された ── 必ずしも悪意でなく、完全にでなく、フィルタなしでなく、しかし relevance の中心が、反応履歴からの学習された予測へと移動した。
公平を期すと、リポジトリは無法地帯ではありません。フィルタ、負の重みのアクション（高い block / report 予測は投稿を下げる）、著者多様性スコア、ブランド安全性シグナル、別建てのコンテンツ理解サービスがある。リスクは「制御がない」より微妙です ── 学習された relevance の中心が、依然として予測された反応の周りに作られていて、制御はその中心の上に重ねた補正にすぎないこと。
5. 反応は選好ではない（心理学の核心）
ここが哲学的な核心であり、同時に最も実証的な裏付けがある部分です。
あなたは怒っているから返信するかもしれない。動揺したから滞留するかもしれない。不安だからクリックするかもしれない。軽蔑を感じるから引用するかもしれない。まだ嫌いだと確認するためだけにプロフィールを見るかもしれない。あなたの側からは、これらは拒否のシグナルです。システムの側からは、これらはエンゲージメント ── 喜びと種類において区別できない、行動の痕跡です。
これが、心理学でいう revealed preference と stated preference の乖離です。式で書くと、システムが最適化する対象と、ユーザーが反省して支持する対象が、別物になる。
$$
\arg\max_{p} ; E(p \mid u) ;\neq; \arg\max_{p} ; S(p \mid u)
$$
左辺はシステムが最適化する対象（顕示選好・System 1）、右辺はユーザーが反省して支持する対象（表明選好・System 2）。両者は一致しません。
$E(p)$ はエンゲージメント（revealed）、$S(p)$ は表明選好（stated）。さらに二重過程理論を重ねると、反応は System 1（速い・自動）、選好は System 2（遅い・反省）から来ます。
$$
a_{\text{react}} = \text{System1}(p) \quad(\text{速い・自動・感情的})
$$
$$
s_{\text{pref}} = \text{System2}(p) \quad(\text{遅い・熟慮的})
$$
フィードが時間内に観測・記録できるのは $a_{\text{react}}$ だけ。$s_{\text{pref}}$ は遅すぎて、痕跡を残さない。
これは理論だけの話ではありません。査読付きの事前登録ランダム化実験（Milli et al., PNAS Nexus 2025）が、逆時系列ベースラインと比べて、Twitter のエンゲージメント基準ランキングが感情的・外集団敵対的なコンテンツを増幅したこと、そしてユーザー自身がそのコンテンツで政治的外集団への感情が悪化したと報告したことを示しました。決定的なのは、同じ研究で、ユーザーがアルゴリズムの選んだ政治投稿を選好しなかったこと。エンゲージメント基準のランキングは、ユーザー自身の表明選好の充足において劣っていた。
二度読む価値があります。システムはエンゲージメントを最適化し、その結果、人々が反応はするが望まないコンテンツを供給した。問題はエンゲージメントランキングが分断的コンテンツを増幅しうることだけではない。反応履歴は反省的選好と同じではないことです。システムは、私たちが育てたいと選ばない部分に、精妙に応答的になりうる。
6. 「天秤に指は置いていない」── 意図なきバイアス
Elon Musk は、アルゴリズムに「天秤に指は置いていない（no thumb on the scale）」と述べています ── ユーザーが最も interesting と思うものを見せるのが目標で、意図的な操作はない、と。
しかし、査読付きの反証があります。Gauthier et al., Nature 2026 は、X の For You アルゴリズムが系統的・持続的な方向性効果を生むこと ── 数週間でユーザーを特定方向のアカウントへ寄せ、時系列表示に戻してもその傾向が持続すること ── を報告しました。
「指を置いていない」という主張と「フィードは系統的・持続的な方向性効果を生む」という発見は、誰かが嘘をついているから矛盾するのではありません。両立します ── 反応で訓練されたモデルは、それ自体が指だからです。意図的に押し下げる手ではなく、分布を曲げる学習された重み。形があるのに、意図は要らない（There need be no intent for there to be a shape）。
心理学でいえば、これは implicit bias（暗黙のバイアス）に近い。意図的な差別ではなく、学習の過程で創発する系統的な偏り。誰も「こう偏らせよう」と決めなくても、反応データの統計が偏りを生む。
7. 透明性は制御ではない
オープンコードには本物の価値があります。何年もブラックボックスだった後 ── Meta のフィード、TikTok の For You ── X は、地球規模の推薦システムを、端末さえあれば誰でも検査できるようにした。オープンライセンスで、定期更新の約束つきで。これは本物です。
しかし、オープンなアーキテクチャは、オープンな説明責任と同じではありません。
リリースの二次的な記事は、Grok が今や「すべての投稿のトーンを監視」し、ポジティブ/建設的なメッセージを増幅、エンゲージメントが高くても攻撃的/否定的なトーンを抑制する、と主張しました。もし本当なら、それは際立った「天秤の指」── 感情的で、方向性があって、明示的な ── です。だから一次ソースに当たって確認すべきです。
リポジトリ自体では、コンテンツ理解サービス（grox/）は、スパム検出・カテゴリ分類・安全性分類・ポリシー執行のための分類器と埋め込みを提供する、と文書化されています。トーンに基づく配信制御 ── ポジティブな感情を報酬し、ネガティブを降格する ── は、公開コードには記述されていない。その主張は本当かもしれない、リポジトリが捉えない本番挙動かもしれない、安全性分類器の過剰読みかもしれない。正直な立場は「公開コードからは分からない」です。
そして、それが要点なのです。リポジトリはモジュール、データフロー、抽象を見せられる。しかし、ライブの重み、訓練データ、実験、人間の注意への下流効果は見せられない。フィードが感情のトーンを形作るかという具体的な事実主張すら、解決できない。あるコードを読んだ開発者が言ったように ── 私たちは、アルゴリズムが同時により開かれ、より解釈不能になる時代に入りつつある。エンジニアでさえ、なぜ Transformer がある投稿を浮上させたか言えないかもしれない。
（付言すると、2025年12月に EU が X に罰金を科し、フランスがアルゴリズムバイアス調査を開始しています。コードを開くことは、規制対応として防御的な機能も果たす。）
オープンコードは必要だが、十分ではない。それは alignment と同じではない。
8. human-side AI risk：ユーザーはシステムの内側にいる
AI alignment の議論はたいてい、モデルが人間の価値に従うかを問います。このケースは、別の、より居心地の悪い問いを強います。
システムが、人間の最も反省的でない層から学んだら、どうなるか？
あなたの怒り、退屈、孤独、対抗心、恐怖、強迫的な確認、軽蔑 ── すべてエンゲージメントモデルに可読です。それらは除去すべきノイズではない。最適化すべきシグナルです。つまり、あなたは推薦システムの受益者であるだけでなく、その**訓練面（training surface）**の一部でもある。フィードはあなたを学び、最も容易に学ぶのは、あなたが最も確実にすること ── それはめったに、あなたの最善の自己ではない。
この側から枠づけると、alignment 問題は「AI が人間に従うか」だけではない。システムが人間のどの層に従うことを学ぶかです。あなたの反射に aligned なシステムは、あなたに aligned ではない。
9. フィードは社会的スケールの model–user configuration
フィードを静的な製品として考えるのをやめ、configuration（構成） ── 時間とともに更新される動的な関係 ── として考えると見通しが良くなります。
大規模言語モデルなら、関連する configuration はこう書けます: モデル × ユーザー × 記憶 × 指示 × 修正履歴。X なら: 推薦モデル × あなたの行動履歴 × ソーシャルグラフ × 候補プール × ランキング目的 × フィルタ × あなたの未来の注意。
ループは単純で、自己閉鎖的です。
式で書くと、行動履歴 $h_t$ がフィードを決め、フィードが次の行動 $a_t$ を誘導し、$a_t$ が次の履歴 $h_{t+1}$ になる。
$$
h_{t+1} = f(h_t,, a_t), \qquad a_t \sim \pi_{\text{user}}(\cdot \mid \text{feed}(h_t))
$$
これは心理学でいうオペラント条件づけそのものです。Skinner の強化スケジュール ── 特に、いつ報酬が来るか分からない変動比率強化（variable-ratio）は、最も消去抵抗が強く、最も習慣化しやすい。スロットマシンと同じ構造が、フィードのスクロールにあります。十分なサイクルを回ると、configuration はもはやあなたを予測しているだけではない。あなたを生産することに参加している ── Gauthier 研究が示した、新しいフォロー行動が、それを生んだ曝露より長く生き延びたように。
これは比喩ではない。数億人のスケールで走る条件づけループの、運用上の記述です。
10. 注意の衛生（Attention Hygiene）
フィードが反応から学ぶなら、メディアリテラシー ── 目の前に来たソースを評価できること ── は必要だが、もはや十分ではありません。必要なのは、注意の衛生に近いもの ── あなたの反応がシステムに何を教えているかへの、反応する前と最中の気づき（メタ認知）です。
座って考える価値のある問い:
- 疲れているとき、私は何をクリックするか？
- 優越感を得たいとき、私は何を引用するか？
- 軽蔑を確認するためだけに、どのアカウントを訪れるか？
- 私はシステムに、自分の弱点について何を教えているか？
- 今この反応で、私はどんな未来のフィードを作っているか？
すべての反応が、あなたにとって等しく意味があるわけではない。しかし、すべての反応が、システムにとって意味を持ちうる。この非対称性が、ゲームの全体です。
これは退却の勧めでも、自己啓発でもない。反応で訓練される環境では、注意は使うものであるだけでなく、教えるものである ── その認識です。
11. 結論：注意の委譲
問題は、X の AI が私たちを深く理解しすぎることでは決してなかった。問題は、その必要がないことです。
For You フィードは、自己の理論を必要としない。反応の履歴だけを必要とする。だからオープンアルゴリズムが重要なのです ── 悪役を暴くからではなく、検査可能なコードの中に委譲を示すから。次に見るものを、前にしたことの残滓で訓練されたシステムへ引き渡す、その移動を。
alignment がシステムを人間の価値に奉仕させることなら、推薦システムはより難しい版の問いを強います ── 人間が自分の反応を理解する前に、システムがその反応から学んだら、どうなるか？
フィードは鏡ではない。それは、私たちにもう一度見させるものを学習する機械です。
出典
-
xai-org/x-algorithmリポジトリと Phoenix README（アーキテクチャ、スコアリング、「ハンドエンジニアリング特徴量なし」、grox/の役割） - Smitha Milli et al., "Engagement, User Satisfaction, and the Amplification of Divisive Content on Social Media," PNAS Nexus (2025)
- Germain Gauthier et al., "The political effects of X's feed algorithm," Nature (2026)
- Ferenc Huszár et al., "Algorithmic Amplification of Politics on Twitter," PNAS (2022)
- European Commission's December 2025 DSA fine against X
- 心理学の補助線: Daniel Kahneman, Thinking, Fast and Slow（System 1 / 2）; B. F. Skinner の強化スケジュール（変動比率強化）; 行動経済学の revealed preference / stated preference の区別
- 公開コードに見えない本番挙動（トーンに基づく配信制御を含む）は unverified として扱う
本記事は Claude（Anthropic）との協働で執筆し、一次資料はすべて著者が独立に検証した。本番挙動に関する未確認の主張は、その旨を明示している。