Ollama v0.30、Granite 4.1、LLM-jp-4-VL、Foundry Local、Gemma 4 12B を確認する

はじめに

以前、以下の記事で Windows 11 PC で使うローカルLLM候補を整理しました。

Windows 11 PCで動作する開発用途のローカルLLMの選定

前回の記事では、以下の条件で候補を絞りました。

Windows 11 Pro を維持
RTX 4060 Ti 16GB
開発用途
ローカル実行前提
非中国系に絞る
Ollama を主系にする

その時点で、第一陣の比較対象は次の4モデルにしました。

gpt-oss-20b
Devstral Small 2
Gemma 4 E4B
LLM-jp-4-8b-thinking

今回は、その後の追加調査を踏まえて、2026年6月時点でこの選定を見直す必要があるかを確認します。

結論から言うと、第一陣4モデルは変更しません。
ただし、後続候補と実行基盤まわりでは、いくつか重要な更新があります。

結論

2026年6月時点でも、第一陣は以下のままでよいと判断しました。

モデル	判断	位置づけ
`gpt-oss-20b`	維持	基準機、ローカル推論の本命
`Devstral Small 2`	維持	コード主力候補
`Gemma 4 E4B`	維持	軽量マルチモーダル枠
`LLM-jp-4-8b-thinking`	維持	日本語比較枠

一方で、後続候補として以下を追加で見るべきです。

モデル / 基盤	判断	位置づけ
`Granite 4.1 8B`	追加	軽量補助、RAG、tool use、JSON出力
`LLM-jp-4-VL 9B beta`	追加	日本語マルチモーダル候補
`Gemma 4 12B`	追加・要検証	Gemma 4 の中量級候補
Foundry Local	追加・用途限定	アプリ同梱配布向け。比較基盤ではない
Ollama v0.30系	更新	実行基盤として引き続き主系

要するに、

第一陣は変更しない
後続候補として Granite 4.1 / LLM-jp-4-VL / Gemma 4 12B を追加
実行基盤は引き続き Ollama
Foundry Local はモデル比較ではなく、アプリ同梱配布の段階で見る

という整理です。

なぜ別記事にしたか

公開済みの1本目は、当時の調査と意思決定の記録として残したいと考えています。

今回の更新は、結論の大幅変更ではなく、その後に出てきた追加情報の整理です。
そのため、1本目を書き換えるよりも、補遺として別記事にした方が読みやすいと判断しました。

1本目の位置づけ:

初回の候補選定
第一陣4モデルの選定理由
非中国系に絞る理由
Windows 11 + RTX 4060 Ti 16GB という前提

この記事の位置づけ:

2026年6月時点のアップデート
第一陣を変更する必要があるかの確認
後続候補の追加
実行基盤の更新確認

更新1: Ollama は v0.30系まで進んでいる

最初の記事では、Ollama を主系の実行基盤として選びました。
この判断は今も変えません。

ただし、Ollama 自体はかなり更新が進んでいます。

2026年6月4日時点では、GitHub Releases 上で v0.30.4 が Latest、v0.30.5 は Pre-release として出ています。
v0.30.4 では llama.cpp のバージョン更新などが入り、既知の問題として gemma4:12b の floating point exception による crash も記載されています。

つまり、今後の比較では Ollama のバージョンを明記することが必須 です。

特に注意すべき点は次です。

Ollama のバージョンでモデルの安定性が変わる可能性がある
Gemma 4 系は更新の影響を受けやすい
gemma4:12b は候補として気になるが、既知問題があるため慎重に扱う
比較記事では、実測時の ollama --version を必ず残す

前回の「Ollama を主系にする」という判断は維持します。
ただし、比較時はバージョン固定・明記が必要という注記を加えるべきです。

参考:

Ollama Releases
https://github.com/ollama/ollama/releases

更新2: Granite 3.3 8B ではなく Granite 4.1 8B を見る

前回の調査では、軽量補助候補として Granite 3.3 8B を見ていました。

しかし、2026年6月時点では、後続候補として見るなら Granite 4.1 8B の方が自然です。

IBM の Granite 4.1 は、3B / 8B / 30B の dense language model family として公開されています。
IBM の説明では、Granite 4.1 は Granite 4.0 よりも以下の能力が改善されています。

tool calling
instruction following
coding
mathematical reasoning

また、Granite 4.1 は Apache 2.0 ライセンスで公開され、cryptographic signatures、ISO certification、transparency disclosures も説明されています。

Ollama 上では granite4.1:8b が使えます。

モデル	サイズ	Context	入力
`granite4.1:8b`	5.3GB	128K	Text

さらに Ollama の説明では、Granite 4.1 は以下をサポートします。

multilingual
coding
RAG
tool use
structured JSON output
FIM code completions

この性格を見ると、Granite 4.1 8B は主力LLMというより、軽量補助モデルとしてかなり有力です。

想定用途は以下です。

RAG の回答生成
JSON 形式の整形
tool use の補助
軽量なコード補完
ログ要約
社内文書の要点抽出

一方で、第一陣に入れる必要はありません。
理由は、第一陣の役割とは少し違うからです。

モデル	役割
`gpt-oss-20b`	基準機、推論・コード
`Devstral Small 2`	コード主力
`Gemma 4 E4B`	軽量マルチモーダル
`LLM-jp-4-8b-thinking`	日本語
`Granite 4.1 8B`	軽量補助、RAG、tool use

したがって、Granite 4.1 8B は 第一陣ではなく後続候補 として追加します。

参考:

IBM Granite 4.1
https://www.ibm.com/granite/docs/models/granite4-1
Ollama: granite4.1
https://ollama.com/library/granite4.1

更新3: LLM-jp-4-VL 9B beta は日本語マルチモーダル候補

LLM-jp 系では、LLM-jp-4-VL 9B beta が公開されています。

これは LLM-jp-4 8B 系をベースにした視覚言語モデルです。
LLM-jp の説明によると、日本語タスク平均では以下のような結果になっています。

モデル	日本語タスク平均
`LLM-jp-4-VL 9B beta`	70.8
`Qwen3-VL-8B`	71.1

つまり、日本語マルチモーダル候補としてかなり面白い位置づけです。

ただし、第一陣の Gemma 4 E4B を置き換えるものではありません。

理由は次のとおりです。

LLM-jp-4-VL 9B beta は beta
Hugging Face 上では custom_code タグが付いている
Ollama でそのまま横並び比較しやすいモデルではない
導入成熟度はまだ高く見ない方がよい

一方で、Gemma 4 E4B は Ollama 上で素直に扱える軽量マルチモーダル枠です。

したがって、現時点ではこう整理します。

モデル	判断	理由
`Gemma 4 E4B`	第一陣維持	Ollamaで扱いやすい軽量マルチモーダル
`LLM-jp-4-VL 9B beta`	後続候補	日本語マルチモーダルとして有力だが導入が重い

今後、日本語OCR、図表理解、UIスクリーンショット理解を重視するなら、LLM-jp-4-VL 9B beta は試す価値があります。

参考:

LLM-jp-4-VL 9B beta リリース
https://llm-jp.nii.ac.jp/blog/20260414_llm-jp-4-vl-9b-beta/
Hugging Face: llm-jp/llm-jp-4-vl-9b-beta
https://huggingface.co/llm-jp/llm-jp-4-vl-9b-beta

更新4: Foundry Local は有力だが、比較基盤ではない

Microsoft の Foundry Local も確認しました。

Foundry Local は、ローカルAIをアプリに組み込んで配布するためのランタイムです。
Windows / macOS / Linux に対応し、モデル取得、ハードウェアアクセラレーション、推論をアプリ側に組み込めます。

Microsoft の説明では、Foundry Local は次のような用途に向いています。

sensitive data をユーザー端末内に留める
オフラインまたは低接続環境で動かす
クラウド推論コストを減らす
低遅延のローカルAI応答を返す

これはかなり魅力的です。

ただし、重要なのは、Foundry Local は general-purpose model experimentation 向けではない という点です。
Microsoft の公式ドキュメントでも、Foundry Local は production applications を出荷するためのものだと説明されています。

つまり、今回のように

複数モデルを比較する
Ollama でモデルを引いて試す
開発用途の候補を絞る
ローカルLLMの使い勝手を見る

という段階では、引き続き Ollama の方が適しています。

Foundry Local は、次の段階で再評価する候補です。

Windows アプリにローカルAIを同梱したい
エンドユーザー端末でローカル推論させたい
モデル取得や推論ランタイムをアプリ内に組み込みたい
配布・運用まで含めて考えたい

また、Foundry Local の catalog には GPT OSS だけでなく、Qwen、DeepSeek、Mistral、Phi なども含まれます。
本シリーズでは非中国系に絞っているため、Foundry Local を使う場合でも、ランタイム単位ではなくモデル単位の allowlist が必要です。

結論として、Foundry Local はこう扱います。

項目	判断
モデル比較基盤	採用しない
ローカルアプリ同梱	有力候補
今すぐの実測環境	Ollamaを継続
セキュリティ統制	モデル単位のallowlistが必要

参考:

Microsoft Learn: What is Foundry Local?
https://learn.microsoft.com/en-us/azure/foundry-local/what-is-foundry-local
Microsoft Foundry Local GA
https://devblogs.microsoft.com/foundry/foundry-local-ga/

更新5: Gemma 4 12B は気になるが、要検証

Gemma 4 については、Gemma 4 E4B を第一陣に残しています。
これは今も変えません。

一方で、Ollama 上では gemma4:12b も選択肢として見えるようになっています。

Ollama のタグを見ると、gemma4:12b は以下のように扱われています。

タグ	サイズ	Context	入力
`gemma4:12b`	7.6GB	256K	Text, Image
`gemma4:12b-it-q4_K_M`	7.6GB	256K	Text, Image
`gemma4:12b-it-q8_0`	13GB	256K	Text, Image
`gemma4:12b-it-bf16`	24GB	256K	Text, Image

この数字だけ見ると、RTX 4060 Ti 16GB でも q4_K_M や q8_0 はかなり気になります。

ただし、Ollama v0.30.4 の Known Issues には、gemma4:12b の crash with floating point exception が記載されています。
そのため、現時点では第一陣に入れるのではなく、要検証の後続候補として扱うのが安全です。

現時点の整理はこうです。

モデル	判断
`Gemma 4 E4B`	第一陣維持
`Gemma 4 12B`	後続候補・要検証
`Gemma 4 26B-A4B`	16GB VRAMでは境界寄り
`Gemma 4 31B`	今回の構成では重い

Gemma 4 12B はかなり気になりますが、安定性を確認してから比較対象に入れるべきです。

参考:

Ollama: gemma4
https://ollama.com/library/gemma4
Ollama: gemma4 tags
https://ollama.com/library/gemma4/tags
Ollama Releases
https://github.com/ollama/ollama/releases

更新後の候補整理

2026年6月時点では、候補を次のように整理します。

第一陣

まず比較する対象です。

モデル	位置づけ	理由
`gpt-oss-20b`	基準機	16GB memory級で動くローカル推論向け
`Devstral Small 2`	コード主力候補	coding / agentic coding 向け
`Gemma 4 E4B`	軽量マルチモーダル	Ollamaで扱いやすい Text / Image 対応
`LLM-jp-4-8b-thinking`	日本語候補	日本語比較軸として独自性あり

後続候補

第一陣の次に見る対象です。

モデル / 基盤	位置づけ	理由
`Granite 4.1 8B`	軽量補助	RAG / tool use / JSON / coding補助
`LLM-jp-4-VL 9B beta`	日本語マルチモーダル	日本語VLMとして有力。ただし beta
`Gemma 4 12B`	中量級マルチモーダル	16GB VRAMでも気になるが、既知問題あり
Foundry Local	アプリ同梱候補	比較基盤ではなく製品化段階で検討

見送り

現時点では優先しない対象です。

モデル / 系列	判断	理由
`Gemma 4 26B-A4B`	後回し	16GB VRAMでは境界寄り
`Gemma 4 31B`	見送り	今回の構成では重い
`LLM-jp-4-32B-A3B`	条件付き	Qwen3 MoE architecture の境界ケース
Qwen / DeepSeek / GLM 系	除外	方針上除外
70B級以上	除外	今回の構成では初手の比較対象ではない

第一陣を変更しない理由

今回の追加調査で分かったことは多いですが、第一陣は変更しません。

理由は、第一陣の4モデルがそれぞれ違う役割を持っているからです。

モデル	役割
`gpt-oss-20b`	基準機
`Devstral Small 2`	コード
`Gemma 4 E4B`	軽量マルチモーダル
`LLM-jp-4-8b-thinking`	日本語

今回追加で見た候補は、いずれも第一陣を置き換えるというより、後続で見るべきものです。

追加候補	第一陣を置き換えない理由
`Granite 4.1 8B`	主力ではなく軽量補助向け
`LLM-jp-4-VL 9B beta`	beta で導入が重い
`Gemma 4 12B`	既知問題があり要検証
Foundry Local	モデル比較基盤ではない

したがって、第一陣はそのままにして、後続候補を追加するのが自然です。

今後の実測方針

今後の実測は、次の順番で進めるのがよさそうです。

第1段階: 第一陣の起動確認と基礎比較

gpt-oss:20b
devstral-small-2
gemma4:e4b
LLM-jp-4-8b-thinking

確認する項目:

ollama ps
VRAM使用量
生成速度
日本語品質
コード品質
画像入力対応

第2段階: 軽量補助候補

granite4.1:8b

確認する項目:

RAG用途
JSON出力
tool use
ログ要約
コード補助

第3段階: 日本語マルチモーダル

LLM-jp-4-VL 9B beta

確認する項目:

日本語OCR
図表理解
スライド理解
UIスクリーンショット理解
導入手順の重さ

第4段階: Gemma 4 12B

gemma4:12b
gemma4:12b-it-q4_K_M
gemma4:12b-it-q8_0

確認する項目:

Windows + RTX 4060 Ti 16GB で安定動作するか
Ollama のバージョン依存
E4B との差
画像入力の品質
速度とVRAM使用量

まとめ

2026年6月時点での結論は以下です。

第一陣4モデルは変更しない
実行基盤は引き続き Ollama
Ollama は v0.30系まで進んでいるため、実測時はバージョン明記が必要
Granite 3.3 8B ではなく Granite 4.1 8B を後続候補として見る
LLM-jp-4-VL 9B beta は日本語マルチモーダル候補として有力
Foundry Local はモデル比較基盤ではなく、アプリ同梱配布向け
Gemma 4 12B は気になるが、既知問題があるため要検証

したがって、前回の第一陣は維持しつつ、後続候補として以下を追加します。

Granite 4.1 8B
LLM-jp-4-VL 9B beta
Gemma 4 12B
Foundry Local

次は、Windows 11 Pro + eGPU + Ollama で、第一陣の起動確認と比較に進みます。

参考

前回記事: Windows 11 PCで動作する開発用途のローカルLLMの選定
https://qiita.com/ootakazuhiko/items/61d72fdb938314857c54
Ollama Releases
https://github.com/ollama/ollama/releases
Ollama: gpt-oss
https://ollama.com/library/gpt-oss
Ollama: Devstral Small 2
https://ollama.com/library/devstral-small-2
Ollama: Gemma 4
https://ollama.com/library/gemma4
Ollama: Gemma 4 tags
https://ollama.com/library/gemma4/tags
Ollama: Granite 4.1
https://ollama.com/library/granite4.1
IBM Granite 4.1
https://www.ibm.com/granite/docs/models/granite4-1
LLM-jp-4-VL 9B beta リリース
https://llm-jp.nii.ac.jp/blog/20260414_llm-jp-4-vl-9b-beta/
Hugging Face: llm-jp/llm-jp-4-vl-9b-beta
https://huggingface.co/llm-jp/llm-jp-4-vl-9b-beta
Microsoft Learn: What is Foundry Local?
https://learn.microsoft.com/en-us/azure/foundry-local/what-is-foundry-local
Microsoft Foundry Local GA
https://devblogs.microsoft.com/foundry/foundry-local-ga/