0
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ノートPCに「LM Studio」をインストールして「Gemma3」を使ってみた際の手順

Posted at

ノートPCに LM Studio をインストールして Gemma3 を使ってみました。その時の手順をメモとして残します。

1. 環境

項目 詳細
CPU Intel(R) Core(TM) i7-9750H CPU @ 2.60GHz 2.59 GHz
メモリ 16.0 GB
グラフィックス カード NVIDIA GeForce GTX 1650 (4 GB)
Intel(R) UHD Graphics 630 (128 MB)
OS Windows 10 Home バージョン 2009(OSビルド 19045.5854)

2. LM Studio のダウンロード

ブラウザで「LM Studioの公式ページ」のページを開き、「Download LM Studio for Windows」をクリックします。

1-1.png

 

LM-Studio-0.3.16-8-x64.exeがダウンロードされます。

1-2.png

 

3. LM Studio のインストール

ダウンロードしたLM-Studio-0.3.16-8-x64.exeを実行します。

「このコンピューターを使用しているすべてのユーザー用にインストールする」を選択し「次へ」をクリックします。

1-4.png

 

インストール先はデフォルトのままで「インストール」をクリックします。
1-5.png

 

インストールが開始されるので、しばらく待ちます。

1-6.png

 

「完了」をクリックします。
1-7.png

 

「LM Studio」が起動します。
1-11.png

 

4. モデルの設定

右上の「Skip」をクリックします。

1-11.png

 

左側の「Discover」をクリックします。

1-12.png

 

「Gemma 3 4B」を選択し「Download」をクリックします。

1-13.png

 

ダウンロードが完了するまでしばらく待ちます。

1-15.png

 

ダウンロードが完了したら「Load Model」をクリックします。

1-16.png

 

この時に以下のエラーが発生しました。
どうやらモデルのロードに失敗したようです。リソース不足の時にもこのエラーが出るようです。

1-18.png

 

左側の「My Models」をクリックします。

1-19.png

 

「Gemma3」の右側の「Edit model default config」をクリックします。

1-20.png

 

ここでは
GPU Offload: 8
CPU Thread Pool Size: 4
を設定していました。

1-21.png

 

左側の「Chat」をクリックします。

1-24.png

 

上の「Select a model to load」をクリックしします。

1-25.png

 

「Gemma 3 4B」を選択します。

1-26.png

 

今度は上手くロードできたようです。

1-27.png

5. お試し会話

試しに「あなたの言語モデルは何ですか?」を入力してみます。

1-28.png

 

応答が返ってきました。

1-30.png

 


以上

0
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?