ローカル環境でLlama2を動かすの日本語対応です
下記の記事が動作する前提です
変更ポイント
- repo = {:hf, "meta-llama/Llama-2-7b-chat-hf", auth_token: hf_token}
+ repo = {:hf, "elyza/ELYZA-japanese-Llama-2-7b", auth_token: hf_token}
elyza/ELYZA-japanese-Llama-2-7bというモデルがあります
実行結果
んw(ノーコメント)
なので、Gemini先生に模範回答してもらいました
└外部サービスの利用(ISDNはじめちゃん)
というオチです
番外編 他のLLM
Gemini先生回答により明確な質問に変更しました
Mistralをローカル実行
余談
草
Llama2が求めていた世界はエモかった