最近リリースされた Swallow系（2種）・NVIDIA Nemotron系のモデルを LM Studio で試す（ローカルLLM）

Last updated at 2026-02-21Posted at 2026-02-21

はじめに

この記事は、「直近で見かけた以下のモデルを、LM Studio を使って少し動作確認してみた」という感じの、ローカルLLM に関する内容です。

NVIDIA Nemotron-Nano-9B-v2-Japanese
Qwen3 Swallow
GPT-OSS Swallow

各モデルに関連するポスト・ページ

以下に、各モデルに関する関連ページを掲載します。

NVIDIA Nemotron-Nano-9B-v2-Japanese

●NVIDIA Nemotron 2 Nano 9B Japanese: 日本のソブリンAIを支える最先端小規模言語モデル
　https://huggingface.co/blog/nvidia/nemotron-nano-9b-v2-japanese-ja

Qwen3 Swallow・GPT-OSS Swallow

●Qwen3 Swallow — Swallow LLM
　https://swallow-llm.github.io/qwen3-swallow.ja.html

●Qwen3-Swallow-v0.2 - a tokyotech-llm Collection
　https://huggingface.co/collections/tokyotech-llm/qwen3-swallow-v02

●GPT-OSS Swallow — Swallow LLM
　https://swallow-llm.github.io/gptoss-swallow.ja

●GPT-OSS-Swallow-v0.1 - a tokyotech-llm Collection
　https://huggingface.co/collections/tokyotech-llm/gpt-oss-swallow-v01

LM Studio を使って動かしてみる

それでは、LM Studio を使って動かしてみます。

モデルの情報を確認する

LM Studio上でモデルを検索してダウンロードします。そのために、LM Studio で扱えるモデルの情報の確認から進めます。

利用できそうなモデルの情報を確認してみる

今回試そうとしている 3種のモデルについて、ぱぷりか炒めさんが GGUF版のモデルを作成されたようです。

実際、LM Studio上で 3種のモデルをキーワード検索すると、以下のように、上記の GGUF版モデルが出てきます（以下の中で、公開元が mmnga-o となっているもの）。

モデルの種類について

GGUF版モデルの種類が複数あり、まず元のモデルのパラメータ／重みを少ないビットで近似的に表現する量子化の度合いです（Q4 や Q5 など）。

さらに今回のモデルについて、例えば Q5 のモデルに関して見ると Q5_0、Q5_K_M、Q5_K_S の3つに分かれているようです（※ モデルのファイルサイズと品質のトレードオフがあるもの）。これらは同じ 5ビット量子化でも、量子化の手法が違っているようで、Q5_0 は最シンプルな量子化方式になり、Q5_K_M と Q5_K_S は「K-quant」が用いられたもののようです（※ Q5_K_M のほうがモデルのファイルサイズが大きくなるものの、品質は良くなるようです）。

そして GPT-OSS-Swallow については、ファイル名に RL・SFT がついているものがあります。これは、どうやら元のモデルのほうで、強化学習あり版（※ RL： Reinforcement Learning／強化学習）と強化学習なし版（※ SFT： Supervised Fine-Tuning／教師ありファインチューニング）があるようでした。