1. はじめに
最近、ローカル環境で動作するLLM（大規模言語モデル）の実用性が高まってきています。特に、日本語に特化したオープンなモデルの登場や、軽量化されたモデルの充実により、個人レベルでも手軽に試せる環境が整ってきました。
私の場合、自作PCのパーツをアップグレードした際に余ったパーツでLinux機を組んでみたのがきっかけでした。せっかく組み立てたマシンを何か面白いことに使えないかと考えていた時に、ローカルLLMが目に留まりました。検証を始めた動機としては：
- 組み立てたLinux機を活用したアプリケーション開発
- 軽量LLMの実用性の検証
- 日本語特化モデルへの興味
- 既存リソースでの実現（追加コスト不要）
特に注目したのは、最小限のリソースでどこまで実用的なアプリケーションが構築できるかという点です。ChatGPTやClaude等のクラウドサービスと比較すると性能面では劣りますが、プライバシーの確保やカスタマイズ性の高さなど、ローカルLLMならではの利点も期待できます。
2. 環境構築
検証環境
使用したPCは以下の通りです。
- CPU:AMD Ryzen 5 5500
- メモリ：16GB
- GPU：GeForce GT 730
- ストレージ：500GB(SSD)
- OS:Ubuntu 24.04.1 LTS
Ollama
ローカルLLMを簡単に導入・実行できるプラットフォームとして今回はOllamaを用いました。
環境構築においてはKaito SugimotoさんのOllamaで体験する国産LLM入門をなぞるような形となっています。
今回はLinuxへの導入なのでDownload Ollama on Linuxに準拠して
curl https://ollama.ai/install.sh | sh
としてインストールを実行します。
しばらくすると完了するので。
ollama --version
としてバージョンの情報が帰ってきたら成功です。
3. 日本語版 Gemma 2 2Bを導入
今回は手始めにGoogleが公開2024/10に公開したモデルである日本語版 Gemma 2 2Bを導入してみます。
下記のコマンドを実行すると、Ollamaがモデルを取得したのち実行されます。
ollama run hf.co/alfredplpl/gemma-2-2b-jpn-it-gguf
成功するとコマンドライン上でそのまま入力を待つ形になります。いくつかテストをしてみましょう。
>>> 豚肉と玉ねぎがあります子供が喜ぶ野菜が進むようなメニューのレシピを教えてください
## 子供も喜ぶ！豚肉と玉ねぎを使ったレシピ
**【材料】（4人分）**
* 豚肉：150g
* 玉ねぎ：1個
* にんにく：1かけ (お好みで)
* 醤油：大さじ2
* みりん：大さじ1
* 酒：大さじ1
* 砂糖：小さじ1/2
* 片栗粉：大さじ1
* サラダ油：適量
**【作り方】**
1. **豚肉を切る:** 豚肉の大きさを統一して、一口大に切る。
2. **玉ねぎを切る:** 玉ねぎは薄切りにする。
3. **豚肉と玉ねぎを炒める:** フライパンにごま油を熱し、豚肉を炒める。
4. **味付け:** 醤油、みりん、酒、砂糖を加え、弱火でじっくり煮る。
5. **仕上げ:** 玉ねぎを加えて軽く炒め、塩コショウで味を調える。
**【ポイント】**
* **お子様向けに！** 甘さ控えめで、少し酸味が効いている味付けにするのがおすすめです。
* **見た目も楽しい！** 豚肉と玉ねぎをたっぷり使うことで、ボリューム満点の見た目になり、子供も喜ぶでしょう！
>>> ミニ四駆を趣味にしてみようと考えていますどのように楽しむのが良いでしょうか？
ミニ四駆、いいですね！楽しい趣味になると思いますよ！
**楽しむ方法をいくつかご紹介します！**
**1. 基本的な楽しみ方：レースを楽しむ**
* **ミニ四駆レースのイベントに参加:** 地域やオンラインでイベントを開催しているところがあります。
* 新しいコースや技術を試す良い機会になります！
* **仲間とレース:** 仲間とレースをすることで、競争意識を高めながら、一緒に楽しむことができます。
* **自分のマシンを改良:** レースの成績向上のため、自分でマシンを改造し、性能を最大限に引き出すのも楽しいです。
**2. より深く楽しむための工夫:**
* **ミニ四駆の歴史と技術の勉強:** ミニ四駆の歴史や技術について学ぶことで、より深く楽しめるようになります。
* 例えば、各メーカーのモデルの特徴や、レースのテクニックについて調べるのも面白いです！
* **オリジナルパーツ製作:** 独自のアイデアで、自分のオリジナルパーツを作ってみましょう！
* オリジナルパーツを作ることで、自分だけの特別なマシンを作ることができます。
**3. コミュニティと交流を楽しむ**
* **ミニ四駆コミュニティに参加:** オンラインコミュニティやイベントに参加することで、他のミニ四駆愛好家と交流できます。
* 共通の趣味を持つ仲間と交流することで、モチベーション維持や技術向上に繋がります！
* **ミニ四駆ブログや動画投稿:** 自分のレースやマシンを紹介したり、技術を解説したりして、他のユーザーと共有するのも楽しいです。
**始め方:**
1. **ミニ四駆ショップで入門品を選ぶ:** 初心者向けのミニ四駆セットが販売されています。
2. **オンラインコミュニティに参加:** ミニ四駆関連のオンラインコミュニティで、他のユーザーと交流しましょう。
ミニ四駆は、自分でマシンを作り、レースを楽しむだけでなく、技術や戦略的な思考を学ぶこともできます。 ぜひ楽しんでください！
レシピでは準備した材料(サラダ油・片栗粉・ニンニク)で登場していないものがありますが(ごま油どこから出てきた？)、思った以上に応答も早く、中身もかなりまともな印象です。
4. まとめ
今回は、Linux上にローカルLLMの環境を構築し、日本語版 Gemma 2 2Bを動かしてみるところまでを実行してみました。
Ollamaによって、想像以上に環境構築はスムーズにいきました。
今後はDifyなどのGUIを用いたアプリケーションの構築などができればと考えています。