ここ数年、LLM（大規模言語モデル）の急速な発展により、AI業界は前例のない盛り上がりを見せてきた。
しかし、その一方で「スケール路線（パラメータ数・データ量の拡大）には限界がある」という主張も徐々に可視化されつつある。
本稿では、その代表的な議論を紹介しながら、LLMの限界・投資の転換点・次のアーキテクチャについて整理する。
Yann LeCunが語る "スケールの限界"
MetaのチーフAIサイエンティストであったヤン・ルカンが、LLMの構造的限界を語ったインタビューが示唆に富む。
-
LLMは「巨大な記憶と検索システム」にすぎない
大量データを圧縮し、検索し、確率的に出力しているにすぎず、
持続的な世界理解・因果推論・計画能力を持たない。 -
AIシステムの“ラストワンマイル”は本質的に難しい
例として自動運転を挙げ、「原理は昔から提案されているのに、実用レベルには達していない」と指摘する。
最後の 1% を埋めるには、現在の LLM が依存している統計的推論では不十分である。 -
データを増やしても AGI にはならない
“データを増やせば人間に近づく” という発想そのものが誤りであり、
AGI には「持続的記憶・推論・計画」が不可欠だと強調している。
LLMはテキスト生成には役立つが、将来のAGIの本命ではない。
短期：LLMはビジネスとしては極めて有用
長期：スケール路線は投資対効果が頭打ちになりつつある
LLM は今後数年、
- ビジネス効率化
- サービス改善
- 新規事業創出
では確実に役に立つ。
しかし、"データを増やせば無限に賢くなる未来" は存在しない。
すでに学習コストは指数関数的に上昇し、得られる性能向上は減衰している。
リターン（性能向上） ＜ コスト（学習投資）
という関係に近づきつつある。
この状況は「AIバブル崩壊の足音」ではなく、インフラとしての LLM（ChatGPTなど）は巨大な価値を持ち続ける一方、モデル改良のための学習投資は限界に達しつつある、という意味である。
OpenAI憲章が示す"競争レースへの懸念"
OpenAI憲章には以下のような印象的な記述がある。
長期的な安全性
私たちは、AGIを安全なものにするために必要な研究を行い、
そのような研究をAIコミュニティ全体に広く普及させることに全力を尽くしています。
私たちは、AGI開発の後期段階が、十分な安全対策を講じる時間がないままに
競争的なレースになることを懸念しています。したがって、価値観が一致し、
安全性を重視するプロジェクトが私たちよりも先にAGIの構築に近づいた場合、
私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束します。
具体的な内容については、その都度取り決めることになりますが、
代表的な引き金となる条件としては、「今後2年間の成功確率が互角以上であること」が挙げられます。
OpenAI 自身が、「スケールで勝ちに行く競争」が危険であると最初から認識していたことが読み取れる。
Ilya Sutskever：LLM の限界を踏まえ “次の知能” を目指す
OpenAI の共同創業者でありチーフサイエンティストであった Ilya Sutskever は、OpenAI を離れSafe Superintelligence（SSI）を立ち上げた。
https://youtu.be/CQmI4XKTa0U
彼の思想を端的にまとめると以下のようになる。
Ilya Sutskever は、AI の進化が予想以上に速く進む可能性を認め、
能力向上と安全性を別々に扱う現在のAI研究の枠組みに限界があると指摘する。
彼は Safe Superintelligence（SSI）という新組織を立ち上げ、
最初から「安全な超知能」を実現するためのアーキテクチャを追求すると述べている。
その中で、世界モデル・推論・自己参照構造など、LLMの次に必要となる知能構造を探求し、
安全性をシステム内部の性質として統合することが重要だと強調する。
Ilya はAIの未来を断定せず、ただしその社会的影響が巨大であることだけは確実だと語る。
Ilya は、LLM のスケールでは到達できない領域に踏み込むため、
研究の軸そのものを変えた と言える。
また彼が OpenAI を離れた理由として、短期的リターンを求める市場圧力と、安全性研究の方向性が相容れなくなったことも推測される。
スケールの時代は終わり、次のアーキテクチャへ移行する
- LeCun は、LLM の構造的限界を明確に指摘した。
- OpenAI は競争レースの危険性を憲章に書き込んでいた。
- Ilya は “LLMの次” を目指して OpenAI を離れた。
これらを合わせると、
「モデルを大きくして性能を上げる」時代は終わり、全く新しいアーキテクチャを探る段階に入った
と理解できる。
では、この“LLMの限界”を踏まえた上で、私たちのソフトウェア開発はどう変わるのか？
次回へ。
1 ヤン・ルカンは2025年11月にMetaを退社し、新たなスタートアップを立ち上げる。
2 Ilya Sutskever は OpenAI の共同創業者でありチーフサイエンティストとして長年同社の研究を主導してきた人物だが、2024年5月に退社を表明した。