Transformerでの追加学習
問題概要
Transformerを用いた学習データの追加学習方法が知りたいです。
汎用的な日本語モデルを専門的なモデルにしたいと思っています。
詳細
自然言語処理用の事前学習モデルを保存後、自分で用意した学習データを追加で学習させて、オリジナルの事前学習モデル(?)として、保存したいです。
書籍やネットで方法を調べましたが、概念的なモノは見つかりましたが、実装する方法が見つかりませんでした。
知りたいコト
事前学習モデルに自前のデータを追加で学習させる方法の具体的な実装方法が知りたいです。
Web、書籍、gitHub なんでも構いません。よろしくお願いします。
0