カリキュラム学習の成功と失敗: GLM-4.1VとSkywork-R1V3の比較分析
カリキュラム学習の成功と失敗: GLM-4.1VとSkywork-R1V3の比較分析 TL;DR GLM-4.1Vは動的サンプリングによるカリキュラム学習で28ベンチマークで一貫した性能向上を達...
0
0
Comment0
5 search resultsShowing 1~5 results
Stocked
You need to log-in
FSDP2で大規模モデル学習: ZeRO-3の数学的解説と実装ガイド
TL;DR（要点まとめ） FSDP2はPyTorchの最新ZeRO-3実装で、限られたGPUメモリで大規模モデル学習を可能にする 7Bモデルでも通常110GB+のメモリが必要だが、FSDP2によ...
0
0
Comment0
Skywork R1V3で学ぶ！マルチモーダル推論モデルの本質的進化
TL;DR Skywork R1V3はマルチモーダル推論でSOTAを達成したVLM 「クリティカルトークンエントロピー」で本物の推論力を判別 コネクターモジュールはRL安定化の鍵 カリキュラム学...
0
0
Comment0
Qwen 2.5 VLをGroundingタスクでファインチューニングする際の注意点まとめ
はじめに Qwen 2.5 VLはAlibabaが開発した強力なVision-Language Model（VLM）です。画像や動画の理解、物体のローカライズ（Grounding）、ドキュメント...
1
1
Comment0
DataRater 論文用語解説：「Meta-Learning」と「Unrolled Optimization」
DataRater 論文用語解説：「Meta-Learning」と「Unrolled Optimization」 「どのデータが本当に価値あるのか？」—— その答えをモデル自身に見つけさせる ...
0
0
Comment0
5 search resultsShowing 1~5 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles