LoginSignup
3
1

ローカル環境でLlama2を日本語で動かす

Last updated at Posted at 2024-06-07

ローカル環境でLlama2を動かすの日本語対応です

下記の記事が動作する前提です

変更ポイント

- repo = {:hf, "meta-llama/Llama-2-7b-chat-hf", auth_token: hf_token}
+ repo = {:hf, "elyza/ELYZA-japanese-Llama-2-7b", auth_token: hf_token}

elyza/ELYZA-japanese-Llama-2-7bというモデルがあります

実行結果

Llama2の結果
image.png

んw(ノーコメント)

なので、Gemini先生に模範回答してもらいました
 └外部サービスの利用(ISDNはじめちゃん)
image.png

というオチです

番外編 他のLLM

Gemini先生回答により明確な質問に変更しました
Mistralをローカル実行

image.png
ん?(確かにオープンカーはある)

みんな大好きChatGPT(正解)
image.png

余談

image.png


Llama2が求めていた世界はエモかった

ローカル環境のStable Diffusion (v1.4)で作ってみた
期待通り!
image.png

3
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
3
1