目次

はじめに

近年、ChatGPTをはじめとする大規模言語モデル（LLM）が社会に広がり、AIの 「アラインメント（人間の意図との整合）」 は最重要課題となっています。

一般的な研究者の見解では、

「99％の事前学習＋1％の微調整（後訓練）」でモデルは十分に人間に合わせられる

と信じられてきました。

しかし、2025年7月にウィーンで開催された ACL 2025（国際計算言語学会のトップ会議） において、北京大学・楊耀東研究グループの論文

が 最佳論文賞 を受賞しました。

この研究は、従来の楽観的な見方に警鐘を鳴らすものです。

私の理解では、ディープラーニングとは 「巨大な方程式を解く作業」 に近いものです。

結果として、一度「大きな方程式」が解かれた後は、微調整の効果はごく限定的 です。

私はこれを 「路徑依存（パス・ディペンデンス）」 と捉えています。

大規模事前学習で形成された分布が強い制約を与えるため、それを大きく変えるのは難しいのです。

微調整で外力をかけても LLM は内部の安定状態に戻ろうとする、そんな現象をフックの法則に重ねて可視化したもの
写真引用元：Language Models Resist Alignment: Evidence From Data Compression

楊耀東チームが提示したのは、物理学のフックの法則に似た「弾性」メカニズムです。

つまり、モデル内部の表現空間は 事前学習で安定状態に固定されており、微調整は一時的にしか効かない のです。

Geoffrey Hinton 教授は次のように語っています：

RLHF（人間のフィードバックによる強化学習）は、錆びた車に美しい塗装をしただけだ。

これは「弾性理論」と本質的に同じことを表しています。

ACL 2025 の審査では、この論文が

として高く評価されました。

この研究は、新しい「抗弾性アラインメント」 の必要性を訴えています。

私たちが「AIは人間に従う」と信じているのは、もしかすると 美しく塗られた表面 を見ているに過ぎないのかもしれません。

その内側に潜む「弾性」とどう向き合うか。
これこそが、AGI時代のAI哲学の核心課題になるのではないでしょうか。