要点

研究エージェント役のClaudeが文献調査 → 手法提案 → 訓練 → テストのループを繰り返し、生徒モデルの問題行動を改善する
生徒モデルは2系統: Googleの小型オープンモデルGemma-2-2B (主実験) と、Claude Opus 4.8の初期チェックポイント (フロンティア規模の検証)。問題行動はdeception (うそ)・sycophancy (迎合)・jailbreak (脱獄)・プライバシー侵害など10カテゴリ
deceptionでは安全ギャップ (理論上の満点までの距離) の85%を縮小。Claude Sonnet 5はOpus 4.8初期版を相手に60時間で65%を詰めた。試した手法は50超、最良の手法は約2,000件の訓練例で機能した (従来比約15,000倍の効率)。生徒モデルの一般能力を損なう安全化手法は評価から除外

完全版では「日本の読者にとっての意味」の解説と FAQ、Quotidia の視点 (全文) を掲載しています。続きを読む。

一次ソース