はじめに
手元にある Intel Mac（2018, i7/32GB） で、日本語で実務に使えるローカルLLMを動かしたい。
Intel機ゆえに「GPUで快適に」は望めません。“できる範囲で最短の成果” を狙うのが今回のテーマ。
この環境は GPU非力（内蔵Intel UHD 630） で、PythonやDockerの重い環境構築も避けたい。
そこで今回は、CPUで現実的に回せる 7B〜13B級 を中心に、日本語性能と軽さのバランスで 「まず何を試すか」 を決めます。
今ある環境の検証で、同じような境遇の方に参考となれば幸いです。
検証スタンス
「SOTAを追いかける」より “現場で役立つ” を優先。
議事録整形や顧客メールの下書きに強いかを特に見ています。
ローカルLLM故に個人情報をあまり気にせず、蓄積して活用したいと思います。
ゴール
この段階では「比較して“何を試すか”を決めるまで」。
実インストール〜動作確認は次回記事で扱います。
検証環境：MacBook Pro 15-inch, 2018 / Intel Core i7 6コア / 32GB RAM / macOS Sequoia 15.6
前提と評価基準
- 前提ハード：Intel i7（6C/12T）/ 32GB RAM / 内蔵GPU → CPU推論が前提
- 現実的なモデルサイズ：7B〜13B（4bit量子化：q4系推奨）
- 日本語要件：敬語・ビジネス文・長文整理で破綻しにくいこと
- 運用要件：導入が簡単（Ollama や LM Studio などGUI/一発導入系が理想）
評価観点は次の5つ：
- 日本語の自然さ（敬語・用語の整合性）
- 構造化力（要点抽出、章立て、タスク分解）
- 体感速度（CPUでの返答待ちの短さ）
- メモリフットプリント（q4での常用可否）
- 安定性（不要なハルシネーション抑制）
📝 メモ（評価のクセ）
「敬語の粒度」と「章立ての綺麗さ」も重要。
将来的にはビジネス面での活用も視野に入れて、ビジネス文章を自然な状態で作れるか、が基準。
候補モデル（Intel Mac/CPUで現実的・日本語OK）
※規模は “B = Billion parameters”。メモリは q4量子化の目安。
| モデル | ベンダー | 規模 | 日本語 | 速度感 | q4メモリ目安 | 向いている用途（想定） |
|---|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Meta | 8B | ◎ | ◎ | 5–6GB | 要約、議事録整形、メール/稟議下書き、要件整理 |
| Qwen2.5 7B Instruct | Alibaba | 7B | ◎ | ◎ | 4–5GB | 多言語強め。Q&A、仕様の言い換え、軽いコード補助 |
| Gemma 2 9B IT | Google DeepMind | 9B | ○〜◎ | ○ | 6–7GB | 長文の章立て・構造化、提案書の骨子作り |
| Mistral 7B Instruct v0.3 | Mistral AI | 7B | ○ | ◎ | 4–5GB | 速度重視の要点抽出・テキスト整形のバッチ処理 |
| ELYZA-japanese-Llama-2-13B-instruct | ELYZA | 13B | ◎ | △ | 9–11GB | 日本語の敬語・言い回し精度が欲しい原稿づくり |
| Japanese-StableLM Instruct 7B | Stability AI Japan | 7B | ○ | ○ | ~5GB | 代替候補。軽作業の和文生成 |
| OpenCALM 7B | CyberAgent | 7B | ○ | ○ | ~5GB | 日本語基盤の素直な応答（最新SOTAには劣る） |
| Phi-3.5-mini（3.8B） | Microsoft | 3.8B | ○* | ◎◎ | 2–3GB | 超軽量。短文の箇条書き・雛形。長文は非推奨 |
| Qwen2.5 14B Instruct | Alibaba | 14B | ◎ | △ | 10–12GB | 品質重視のスポット利用（常用は重い） |
* Phi系は軽いが、長文・高度推論は苦手。短文スニペット向け。
📝 著者メモ（表の読み方）
迷ったら Llama 3.1 8B を“基準器”に。速さが欲しい日は Mistral 7B、敬語の精度を上げたい日は ELYZA 13B を差し替えます。
結論：今回の“試す順”優先順位（3案＆理由）
第1優先：Llama 3.1 8B Instruct（Meta）
- 理由：日本語の自然さ・構造化・速度のバランスが最良。7〜9B帯の“基準器”。
- 用途：議事録→要点、メール/稟議ドラフト、要件整理、NoteやQiitaの素案。
第2優先：Qwen2.5 7B Instruct（Alibaba）
- 理由：軽くて日本語も強い。多言語/推論の粘りが良く、Aの控えとしてほぼ同格。
- 用途：Q&A、仕様言い換え、軽いコード補助、言語横断の下ごしらえ。
第3優先：Gemma 2 9B IT（Google DeepMind）
- 理由：章立て・論理展開が破綻しにくい。長文構造化の安定感。
- 用途：提案書の骨子、構成→本文の叩き台づくり。
補欠枠
- 速度特化：Mistral 7B Instruct v0.3（Mistral AI）
- 日本語ニュアンス特化：ELYZA 13B（ELYZA）
次回に向けた準備
今回は “比較と選定”まで 。
次回は Ollama を使い、最小構成で試します（Intelでも楽）。
# インストール（次回詳述）
brew install ollama
# まずはこの3モデルを取得
ollama pull llama3.1:8b-instruct
ollama pull qwen2.5:7b-instruct
ollama pull gemma2:9b-instruct