ノートPCでも快適に動くと噂のgemma4:12bを試してみました。
参考: https://ai.google.dev/gemma/docs/core?hl=ja
以下のように、PCでも快適に動作することが強調されています。（公式引用）
機能
- 推論: このファミリーのすべてのモデルは、構成可能な思考モードを備えた高性能な推論エンジンとして設計されています。
- 拡張されたマルチモーダル: テキスト、画像（可変アスペクト比と解像度をサポート）、動画、音声（E2B、E4B、12Bモデルにネイティブに搭載）を処理します。
- コンテキストウィンドウの拡大: 小規模モデルは128Kのコンテキストウィンドウを備え、中規模モデルは256Kをサポートしています。
- コーディングとエージェント機能の強化: 組み込みの関数呼び出しサポートとともに、コーディングベンチマークで大幅な改善を実現し、高性能な自律エージェントを強化します。
- ネイティブシステムプロンプトのサポート: Gemma 4では、システムロールの組み込みサポートが導入され、より構造化された制御可能な会話が可能になります。
- マルチトークン予測: すべてのGemma 4モデル（E2B、E4B、12B、31B、26B A4B）には、投機的デコーディング専用のドラフトモデルが含まれており、品質を損なうことなく推論を大幅に高速化できます。
検証環境
- MacBook Air M3
- メモリ 24GB
環境構築
Ollamaを使うのが一番簡単かと思います。
Ollamaは以下のコマンドでインストールできます。（公式サイト https://ollama.com/download）
curl -fsSL https://ollama.com/install.sh | sh
「Download for macOS」ボタンからDMGファイルを使ってインストールする方法もありますが、なぜか最新のOllamaが入らなかったため、curlでインストールするのがおすすめです。
Ollamaのインストールが完了したら、Gemma 4を以下のコマンドで実行できます。
ollama run gemma4:12b
モデルのダウンロードには約10分かかりました。
実際に動かしてみる
pythonで"https://ollama.com/"にある文章をすべて取得するプログラムを書いて
という指示をすると、私の環境では回答完了まで約7分かかりました。
生成されたコードは約60行でした。
ちなみにClaude sonnet4.6に同様の指示をすると10秒ほどで結果が返ってきます。
ゴリゴリ開発するならさすがに厳しい印象です。
Claude Codeでplan.mdだけ作らせて、仕事中など日中は多少時間がかかってもいいのでコストを気にせず実装だけさせたい。というときに使えるかもと思いました。
メモ
筆者は使う前、「ローカルLLM = Claude Codeと同様に動くもの」だと思っていました。
しかし実際には、LLM単体ではテキストを生成するだけで、ファイルの編集やコマンドの実行はできません。
Claude CodeやAiderのようなツールは、LLMに対して「ファイルを読む」「ファイルを書き換える」「コマンドを実行する」といった機能を追加しているため、コードベース全体を編集できるようになっています。
Claude Codeのように動かすには、Aiderというツールで実現できそうなので、今後試してみようと思います。