TL;DR

Skywork R1V3で学ぶ！マルチモーダル推論モデルの本質的進化

Skywork R1V3は、MMMUベンチマークで76.0%というSOTAを達成した最新のオープンソースVLM（Vision-Language Model）です。本記事では、論文から特に実践的かつ本質的な3つの発見をピックアップし、数式・実装Tipsを交えて解説します。

多くのVLMは「推論しているように見える」出力を生成できますが、実際にはパターン模倣に過ぎない場合が多いです。本当に柔軟な推論力を持つモデルをどう見分けるかは、現場でも大きな課題です。

Skywork R1V3では、推論開始トークン（例："Wait..."や"Alternatively..."）のエントロピーを指標としました。

H(p) = -\sum_{i} p_i \log p_i

（$p_i$は各トークンの生成確率）

本物の推論は「複数の可能性を探索」するため、分岐点で迷い（高エントロピー）が生じます。一方、模倣型はスクリプト通りに進むため、エントロピーが低くなります。

VLMの多くはビジョンエンコーダやLLM本体に注目しがちですが、コネクターモジュール（画像特徴とテキスト特徴を橋渡しする層）がRL訓練の安定化に不可欠であることが明らかになりました。

コネクターは視覚と言語の表現を動的に整合させる役割を持ち、RL最適化中の勾配伝播の要です。凍結するとモダリティ間のアライメントが崩壊します。

「簡単な問題→難しい問題」と段階的に学習させるカリキュラム学習は、従来有効とされてきました。しかし、Skywork R1V3では逆効果となりました。

難問で学んだ複雑なパターンが、簡単な問題の解法と競合し、汎化性能が損なわれたため。

Skywork R1V3の研究から得られる本質的な知見は以下の通り：

今後は、推論力の新指標開発やコネクター設計の高度化、汎化と専門化のバランスを取る訓練戦略が重要です。

マルチモーダル推論やVLMの訓練で苦労した点・工夫した点など、ぜひコメントで共有してください！