Google I/O 2026で発表された Gemini 3.5 Pro には、「Deep Think」や高度なエージェント機能が搭載されると説明されています。
一方で、AIコミュニティでは
Gemini 3.5 ProはLooped Transformerなのでは？
という予想も見かけます。
この記事では、Looped Transformerとは何かを説明した上で、Gemini 3.5 ProがLooped Transformerである可能性について考察します。
まず結論
現時点では
Gemini 3.5 ProがLooped Transformerであるという公式発表はありません。
Googleはアーキテクチャを公開しておらず、Looped Transformerを採用したという証拠もありません。したがって、
- 「Looped Transformerである」と断言することはできません。
- ただし、Gemini 3.5 Proの特徴を見ると、そのような設計思想を採用していても不思議ではありません。
というのが現状です。
Looped Transformerとは
通常のTransformerは
Layer1
↓
Layer2
↓
Layer3
↓
...
↓
LayerN
のように、一方向へ層を通過して終了します。
一方、Looped Transformerでは、一部の層を繰り返し実行します。
Layer1
↓
Layer2
↓
Layer3
↑ ↓
└────┘
↓
Layer4
↓
Output
つまり
- 同じ重み
- 同じ層
を何回も使って推論します。
これはRNNのような「反復計算」をTransformerへ取り入れた考え方です。
なぜLoopするのか
理由は主に3つあります。
① 推論時間と精度を交換できる
例えば
- 1回ループ
- 3回ループ
- 10回ループ
を選択できます。
難しい問題だけ多くループすれば
- 計算量は増える
- 精度も向上する
という性質があります。
② パラメータ数を増やさなくても性能を伸ばせる
通常は性能向上のため
48層
↓
96層
↓
192層
のように巨大化します。
Looped Transformerなら
48層を4回使う
という設計も可能になります。
つまり
- 重みは共有
- 計算だけ繰り返す
という発想です。
③ 思考時間を増やせる
最近のLLMは
- 長く考える
- 推論を繰り返す
- 自己修正する
方向へ進化しています。
Looped Transformerはこの考え方と非常に相性が良いと言われています。
Gemini 3.5 Proの特徴
Googleが紹介している内容を見ると
- Deep Think
- 高度な推論
- 長時間のAgent実行
- Sub-agentの利用
- 複雑なタスク
などが強調されています。
これらを見ると
「一度だけForwardするTransformer」
というより
「必要に応じて考え続けるモデル」
を目指しているようにも見えます。
Looped Transformerなら説明できること
もしLooped Transformerなら、
質問
↓
Transformer
↓
まだ解けない
↓
もう一度同じ層へ
↓
改善
↓
さらにLoop
↓
回答
という流れになります。
これは
- Deep Think
- 推論時間の可変化
- 難問だけ時間をかける
という特徴と整合します。
しかし別の可能性もある
Loopだけが答えではありません。
現在のLLMでは
- Test-Time Compute
- Self-Refinement
- Tree Search
- MCTS
- Multi-Agent
- Planner + Executor
- Reflection
など様々な方法があります。
実際には
Transformer
↓
Planner
↓
Sub Agent
↓
Reflection
↓
再実行
という構成でも、Deep Thinkは実現できます。
つまり
「考え続けているように見える」
からといって
Transformer内部がLoopしているとは限りません。
Googleは何をしている可能性が高いか
Google DeepMindは近年、
- Test-Time Compute
- Thinking Model
- Agent
- Long Horizon Planning
へ大きく舵を切っています。
そのため、
内部実装は公開されていないものの、
- Transformer
- エージェント
- 推論ループ
- 外部ツール
- Reflection
を組み合わせた複合システムである可能性は十分考えられます。
Looped Transformerも、その構成要素の一つとして採用されている可能性はありますが、現時点では推測の域を出ません。
最近の研究動向
2023年頃からLooped Transformerの研究は活発になっており、
- TransformerをRNNのように使う
- 同じ層を何度も利用する
- Test-Time Computeを増やす
といった方向性が注目されています。
さらに2026年には、既存モデルに対して追加学習なしで推論時のみループを導入し性能向上を図る「Training-Free Looped Transformers」という研究も発表されており、この分野は現在も発展が続いています。
まとめ
現時点では、
- Gemini 3.5 ProがLooped Transformerであるという公式情報はありません。
- Deep Thinkや高度な推論能力はLooped Transformerとも相性が良く、その可能性を推測する声はあります。
- 一方で、Planner・Sub-Agent・Reflection・Test-Time Computeなど他の技術でも同様の挙動は実現できるため、「Loopしているように見える」ことだけで内部アーキテクチャを断定することはできません。
Googleが将来、技術レポートや論文を公開するまでは、Gemini 3.5 Proの内部構造については慎重に扱う必要があります。