1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

@ootakazuhiko(太田 和彦)
in

Windows 11 PCで動作するローカルLLM候補選定のアップデート 2026年6月版

1
Posted at

Ollama v0.30、Granite 4.1、LLM-jp-4-VL、Foundry Local、Gemma 4 12B を確認する

はじめに

以前、以下の記事で Windows 11 PC で使うローカルLLM候補を整理しました。

Windows 11 PCで動作する開発用途のローカルLLMの選定

前回の記事では、以下の条件で候補を絞りました。

  • Windows 11 Pro を維持
  • RTX 4060 Ti 16GB
  • 開発用途
  • ローカル実行前提
  • 非中国系に絞る
  • Ollama を主系にする

その時点で、第一陣の比較対象は次の4モデルにしました。

  • gpt-oss-20b
  • Devstral Small 2
  • Gemma 4 E4B
  • LLM-jp-4-8b-thinking

今回は、その後の追加調査を踏まえて、2026年6月時点でこの選定を見直す必要があるかを確認します。

結論から言うと、第一陣4モデルは変更しません。
ただし、後続候補と実行基盤まわりでは、いくつか重要な更新があります。

結論

2026年6月時点でも、第一陣は以下のままでよいと判断しました。

モデル 判断 位置づけ
gpt-oss-20b 維持 基準機、ローカル推論の本命
Devstral Small 2 維持 コード主力候補
Gemma 4 E4B 維持 軽量マルチモーダル枠
LLM-jp-4-8b-thinking 維持 日本語比較枠

一方で、後続候補として以下を追加で見るべきです。

モデル / 基盤 判断 位置づけ
Granite 4.1 8B 追加 軽量補助、RAG、tool use、JSON出力
LLM-jp-4-VL 9B beta 追加 日本語マルチモーダル候補
Gemma 4 12B 追加・要検証 Gemma 4 の中量級候補
Foundry Local 追加・用途限定 アプリ同梱配布向け。比較基盤ではない
Ollama v0.30系 更新 実行基盤として引き続き主系

要するに、

  • 第一陣は変更しない
  • 後続候補として Granite 4.1 / LLM-jp-4-VL / Gemma 4 12B を追加
  • 実行基盤は引き続き Ollama
  • Foundry Local はモデル比較ではなく、アプリ同梱配布の段階で見る

という整理です。

なぜ別記事にしたか

公開済みの1本目は、当時の調査と意思決定の記録として残したいと考えています。

今回の更新は、結論の大幅変更ではなく、その後に出てきた追加情報の整理です。
そのため、1本目を書き換えるよりも、補遺として別記事にした方が読みやすいと判断しました。

1本目の位置づけ:

  • 初回の候補選定
  • 第一陣4モデルの選定理由
  • 非中国系に絞る理由
  • Windows 11 + RTX 4060 Ti 16GB という前提

この記事の位置づけ:

  • 2026年6月時点のアップデート
  • 第一陣を変更する必要があるかの確認
  • 後続候補の追加
  • 実行基盤の更新確認

更新1: Ollama は v0.30系まで進んでいる

最初の記事では、Ollama を主系の実行基盤として選びました。
この判断は今も変えません。

ただし、Ollama 自体はかなり更新が進んでいます。

2026年6月4日時点では、GitHub Releases 上で v0.30.4 が Latest、v0.30.5 は Pre-release として出ています。
v0.30.4 では llama.cpp のバージョン更新などが入り、既知の問題として gemma4:12b の floating point exception による crash も記載されています。

つまり、今後の比較では Ollama のバージョンを明記することが必須 です。

特に注意すべき点は次です。

  • Ollama のバージョンでモデルの安定性が変わる可能性がある
  • Gemma 4 系は更新の影響を受けやすい
  • gemma4:12b は候補として気になるが、既知問題があるため慎重に扱う
  • 比較記事では、実測時の ollama --version を必ず残す

前回の「Ollama を主系にする」という判断は維持します。
ただし、比較時はバージョン固定・明記が必要という注記を加えるべきです。

参考:

更新2: Granite 3.3 8B ではなく Granite 4.1 8B を見る

前回の調査では、軽量補助候補として Granite 3.3 8B を見ていました。

しかし、2026年6月時点では、後続候補として見るなら Granite 4.1 8B の方が自然です。

IBM の Granite 4.1 は、3B / 8B / 30B の dense language model family として公開されています。
IBM の説明では、Granite 4.1 は Granite 4.0 よりも以下の能力が改善されています。

  • tool calling
  • instruction following
  • coding
  • mathematical reasoning

また、Granite 4.1 は Apache 2.0 ライセンスで公開され、cryptographic signatures、ISO certification、transparency disclosures も説明されています。

Ollama 上では granite4.1:8b が使えます。

モデル サイズ Context 入力
granite4.1:8b 5.3GB 128K Text

さらに Ollama の説明では、Granite 4.1 は以下をサポートします。

  • multilingual
  • coding
  • RAG
  • tool use
  • structured JSON output
  • FIM code completions

この性格を見ると、Granite 4.1 8B は主力LLMというより、軽量補助モデルとしてかなり有力です。

想定用途は以下です。

  • RAG の回答生成
  • JSON 形式の整形
  • tool use の補助
  • 軽量なコード補完
  • ログ要約
  • 社内文書の要点抽出

一方で、第一陣に入れる必要はありません。
理由は、第一陣の役割とは少し違うからです。

モデル 役割
gpt-oss-20b 基準機、推論・コード
Devstral Small 2 コード主力
Gemma 4 E4B 軽量マルチモーダル
LLM-jp-4-8b-thinking 日本語
Granite 4.1 8B 軽量補助、RAG、tool use

したがって、Granite 4.1 8B は 第一陣ではなく後続候補 として追加します。

参考:

更新3: LLM-jp-4-VL 9B beta は日本語マルチモーダル候補

LLM-jp 系では、LLM-jp-4-VL 9B beta が公開されています。

これは LLM-jp-4 8B 系をベースにした視覚言語モデルです。
LLM-jp の説明によると、日本語タスク平均では以下のような結果になっています。

モデル 日本語タスク平均
LLM-jp-4-VL 9B beta 70.8
Qwen3-VL-8B 71.1

つまり、日本語マルチモーダル候補としてかなり面白い位置づけです。

ただし、第一陣の Gemma 4 E4B を置き換えるものではありません。

理由は次のとおりです。

  • LLM-jp-4-VL 9B beta は beta
  • Hugging Face 上では custom_code タグが付いている
  • Ollama でそのまま横並び比較しやすいモデルではない
  • 導入成熟度はまだ高く見ない方がよい

一方で、Gemma 4 E4B は Ollama 上で素直に扱える軽量マルチモーダル枠です。

したがって、現時点ではこう整理します。

モデル 判断 理由
Gemma 4 E4B 第一陣維持 Ollamaで扱いやすい軽量マルチモーダル
LLM-jp-4-VL 9B beta 後続候補 日本語マルチモーダルとして有力だが導入が重い

今後、日本語OCR、図表理解、UIスクリーンショット理解を重視するなら、LLM-jp-4-VL 9B beta は試す価値があります。

参考:

更新4: Foundry Local は有力だが、比較基盤ではない

Microsoft の Foundry Local も確認しました。

Foundry Local は、ローカルAIをアプリに組み込んで配布するためのランタイムです。
Windows / macOS / Linux に対応し、モデル取得、ハードウェアアクセラレーション、推論をアプリ側に組み込めます。

Microsoft の説明では、Foundry Local は次のような用途に向いています。

  • sensitive data をユーザー端末内に留める
  • オフラインまたは低接続環境で動かす
  • クラウド推論コストを減らす
  • 低遅延のローカルAI応答を返す

これはかなり魅力的です。

ただし、重要なのは、Foundry Local は general-purpose model experimentation 向けではない という点です。
Microsoft の公式ドキュメントでも、Foundry Local は production applications を出荷するためのものだと説明されています。

つまり、今回のように

  • 複数モデルを比較する
  • Ollama でモデルを引いて試す
  • 開発用途の候補を絞る
  • ローカルLLMの使い勝手を見る

という段階では、引き続き Ollama の方が適しています。

Foundry Local は、次の段階で再評価する候補です。

  • Windows アプリにローカルAIを同梱したい
  • エンドユーザー端末でローカル推論させたい
  • モデル取得や推論ランタイムをアプリ内に組み込みたい
  • 配布・運用まで含めて考えたい

また、Foundry Local の catalog には GPT OSS だけでなく、Qwen、DeepSeek、Mistral、Phi なども含まれます。
本シリーズでは非中国系に絞っているため、Foundry Local を使う場合でも、ランタイム単位ではなくモデル単位の allowlist が必要です。

結論として、Foundry Local はこう扱います。

項目 判断
モデル比較基盤 採用しない
ローカルアプリ同梱 有力候補
今すぐの実測環境 Ollamaを継続
セキュリティ統制 モデル単位のallowlistが必要

参考:

更新5: Gemma 4 12B は気になるが、要検証

Gemma 4 については、Gemma 4 E4B を第一陣に残しています。
これは今も変えません。

一方で、Ollama 上では gemma4:12b も選択肢として見えるようになっています。

Ollama のタグを見ると、gemma4:12b は以下のように扱われています。

タグ サイズ Context 入力
gemma4:12b 7.6GB 256K Text, Image
gemma4:12b-it-q4_K_M 7.6GB 256K Text, Image
gemma4:12b-it-q8_0 13GB 256K Text, Image
gemma4:12b-it-bf16 24GB 256K Text, Image

この数字だけ見ると、RTX 4060 Ti 16GB でも q4_K_M や q8_0 はかなり気になります。

ただし、Ollama v0.30.4 の Known Issues には、gemma4:12b の crash with floating point exception が記載されています。
そのため、現時点では第一陣に入れるのではなく、要検証の後続候補として扱うのが安全です。

現時点の整理はこうです。

モデル 判断
Gemma 4 E4B 第一陣維持
Gemma 4 12B 後続候補・要検証
Gemma 4 26B-A4B 16GB VRAMでは境界寄り
Gemma 4 31B 今回の構成では重い

Gemma 4 12B はかなり気になりますが、安定性を確認してから比較対象に入れるべきです。

参考:

更新後の候補整理

2026年6月時点では、候補を次のように整理します。

第一陣

まず比較する対象です。

モデル 位置づけ 理由
gpt-oss-20b 基準機 16GB memory級で動くローカル推論向け
Devstral Small 2 コード主力候補 coding / agentic coding 向け
Gemma 4 E4B 軽量マルチモーダル Ollamaで扱いやすい Text / Image 対応
LLM-jp-4-8b-thinking 日本語候補 日本語比較軸として独自性あり

後続候補

第一陣の次に見る対象です。

モデル / 基盤 位置づけ 理由
Granite 4.1 8B 軽量補助 RAG / tool use / JSON / coding補助
LLM-jp-4-VL 9B beta 日本語マルチモーダル 日本語VLMとして有力。ただし beta
Gemma 4 12B 中量級マルチモーダル 16GB VRAMでも気になるが、既知問題あり
Foundry Local アプリ同梱候補 比較基盤ではなく製品化段階で検討

見送り

現時点では優先しない対象です。

モデル / 系列 判断 理由
Gemma 4 26B-A4B 後回し 16GB VRAMでは境界寄り
Gemma 4 31B 見送り 今回の構成では重い
LLM-jp-4-32B-A3B 条件付き Qwen3 MoE architecture の境界ケース
Qwen / DeepSeek / GLM 系 除外 方針上除外
70B級以上 除外 今回の構成では初手の比較対象ではない

第一陣を変更しない理由

今回の追加調査で分かったことは多いですが、第一陣は変更しません。

理由は、第一陣の4モデルがそれぞれ違う役割を持っているからです。

モデル 役割
gpt-oss-20b 基準機
Devstral Small 2 コード
Gemma 4 E4B 軽量マルチモーダル
LLM-jp-4-8b-thinking 日本語

今回追加で見た候補は、いずれも第一陣を置き換えるというより、後続で見るべきものです。

追加候補 第一陣を置き換えない理由
Granite 4.1 8B 主力ではなく軽量補助向け
LLM-jp-4-VL 9B beta beta で導入が重い
Gemma 4 12B 既知問題があり要検証
Foundry Local モデル比較基盤ではない

したがって、第一陣はそのままにして、後続候補を追加するのが自然です。

今後の実測方針

今後の実測は、次の順番で進めるのがよさそうです。

第1段階: 第一陣の起動確認と基礎比較

  • gpt-oss:20b
  • devstral-small-2
  • gemma4:e4b
  • LLM-jp-4-8b-thinking

確認する項目:

  • ollama ps
  • VRAM使用量
  • 生成速度
  • 日本語品質
  • コード品質
  • 画像入力対応

第2段階: 軽量補助候補

  • granite4.1:8b

確認する項目:

  • RAG用途
  • JSON出力
  • tool use
  • ログ要約
  • コード補助

第3段階: 日本語マルチモーダル

  • LLM-jp-4-VL 9B beta

確認する項目:

  • 日本語OCR
  • 図表理解
  • スライド理解
  • UIスクリーンショット理解
  • 導入手順の重さ

第4段階: Gemma 4 12B

  • gemma4:12b
  • gemma4:12b-it-q4_K_M
  • gemma4:12b-it-q8_0

確認する項目:

  • Windows + RTX 4060 Ti 16GB で安定動作するか
  • Ollama のバージョン依存
  • E4B との差
  • 画像入力の品質
  • 速度とVRAM使用量

まとめ

2026年6月時点での結論は以下です。

  • 第一陣4モデルは変更しない
  • 実行基盤は引き続き Ollama
  • Ollama は v0.30系まで進んでいるため、実測時はバージョン明記が必要
  • Granite 3.3 8B ではなく Granite 4.1 8B を後続候補として見る
  • LLM-jp-4-VL 9B beta は日本語マルチモーダル候補として有力
  • Foundry Local はモデル比較基盤ではなく、アプリ同梱配布向け
  • Gemma 4 12B は気になるが、既知問題があるため要検証

したがって、前回の第一陣は維持しつつ、後続候補として以下を追加します。

  • Granite 4.1 8B
  • LLM-jp-4-VL 9B beta
  • Gemma 4 12B
  • Foundry Local

次は、Windows 11 Pro + eGPU + Ollama で、第一陣の起動確認と比較に進みます。

参考

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?