はじめに
今の所、チャットの行うところまでできていません。
なんとかトレーニングさせるところまではできました。
色々、バージョンアップが行われているようなのでその辺りで詰まった箇所を書いていこうかと思います。
(ベースとなる記事は https://qiita.com/walnut-pro/items/32f8fb04645a36daea93 )
ハマった箇所と治し方
'ColoInitContext' from 'colossalai.zero'
colossalai.zeroを含む必要なモジュールがインストールされていないようです。
解決方法
ColossalAIのフォルダに移動してpip installを行いましょう
元記事
%cd /content/drive/MyDrive//work/ColossalAI/
pwd = %pwd
print(pwd)
!pip install .
ModuleNotFoundError: No module named 'colossalai._analyzer'
ある更新から必要なファイルがなくなったそうです。
解決方法
site-package(多分、Pythonが読み込むライブラリが入っているフォルダ)に必要なファイルをコピーする
元記事
# https://zenn.dev/tamanobi/articles/7a4608992548dd
# 自分の環境のsite-packageを検索
import site
site.getsitepackages()
%cd /usr/local/lib/python3.10/dist-packages/colossalai/
# https://qiita.com/mriho/items/42109231d25e7a0ce8c1
# フォルダの中身を確認
%ls
# 必要なファイルをコピー
%cp -r /content/drive/MyDrive/work/ColossalAI/colossalai/_analyzer/ .
# コピーされたか確認
%ls