singularityによるms-swift-megatronのSFTの学習方法
1.概要 松尾研LLMコンペ2025にPhase2としてRAMENチームで開発に取り組んできました。 以前、記載したsingularityやms-swiftによるmegatronからHuggin...
1
0
Comment0
5 search resultsShowing 1~5 results
Stocked
You need to log-in
singularityによるms-swift-megatronのDFTの学習方法
1.概要 松尾研LLMコンペ2025にPhase2としてRAMENチームで開発に取り組んできました。 以前、記載したsingularityやms-swiftによるmegatronからHuggin...
1
0
Comment0
singularityによるms-swiftを活用したmegatronのモデルloraマージとHggingface形式に変換
1.概要 松尾研LLMコンペ2025にPhase2としてRAMENチームで開発に取り組んできました。 以前、記載したsingularityで表題のモデルマージとHggingface形式変換して、...
1
0
Comment0
RAMENチームのGSPOの検証について
1.概要 松尾研LLMコンペ2025にPhase2としてRAMENチームで開発に取り組んできました。 RAMENチームとして事後学習の実験する際、GSPOも候補に上がりました。 時間の都合上、G...
1
0
Comment0
singularity構築エラー対応と対策について
1.概要 松尾研LLMコンペ2025にPhase2としてRAMENチームで開発に取り組んできました。 RAMENチームとして事後学習の実験する際、メンバーからsingularityによる方法があ...
9
2
Comment0
5 search resultsShowing 1~5 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles