はじめに

今回はローカルLLMがノートパソコンでどれだけ動くのかと、その精度について確認したので、まとめます。
今回の検証にはLM Studioを用いてモデルを動作させます。

検証方法

導入環境について

今回の環境は以下になります。

os: windows11
LM Studio ver. 0.3.35

また、CPUのスペックとRAMの容量は以下です。
ノートパソコンなので、CUDAのような強力なGPU演算Unitは搭載されていません（Intel Graphicsは搭載されています）。

CPU: Inter(R) Core(TM) Ultra7 155U
RAM: 16GB

利用するモデル

LM Studioは以下のリンクからダウンロードが可能です。インストーラーの指示に従いインストールするだけで特に難しい設定はありません。

https://lmstudio.ai/

LM StudioのHuggingFaceリポジトリから量子化されたモデルが提供されているので、ダウンロードして利用します。
LM Studioからモデルが直接ダウンロードして、利用します。

https://lmstudio.ai/models

モデルの比較

今回実行したモデルはQwen3-VLをベースにし、量子化されたモデルでの差を確認しました。
Clipモデルはmmproj-model-f16.ggufを利用しました。

Qwen3-VL-4b
- Qwen3_vl_4b_Q4_K_M
- Qwen3_vl_4b_Q6_K
- Qwen3_vl_4b_Q8_0
Qwen3-VL-8b
- Qwen3_vl_8b_Q4

入力するプロンプト

今回、入力するプロンプトは以下です。
添付画像はwikipediaに掲載されているタヌキの画像をお借りしました。
入力した画像サイズは250×180です。

system_prompt: あなたは誠実で優秀な日本人のアシスタントです。特に指示が無い場合は、常に日本語で回答してください。
user:この画像について詳しく説明して。

画像は以下のものを入力します。
内容としてはたぬきのwikiに掲載されている、タヌキの画像です。

note info
wikiでは、このタヌキは以下のように説明されています。
「タヌキ（狸）は、哺乳綱食肉目イヌ科タヌキ属Nyctereutesに分類される現生種の総称。現生種は1種のみとされていたが、遺伝子解析の結果により大陸産のN. procyonoidesと日本産のN. viverrinusの2種に分けるという説が出されている。以下の説明は、広義のタヌキ（大陸部と日本列島（北海道から九州）産を含む）について扱う。」
https://ja.wikipedia.org/wiki/タヌキより抜粋

評価内容

評価方法としては、以下の観点で正しく出力ができているかを確認します。
また、参考として推論時間がどれくらいかかったかの計測も行います。

タヌキの判別可否: 分類した結果がタヌキと明言されているかを判定します。
- 〇：タヌキと正しく明言されている。
- ✕：タヌキ以外のものが明言されている。
説明内容の妥当性: 以下の観点から判断。
- 観点
  - タヌキの分類が正しく説明されているか
  - 矛盾なく説明されているか

実行結果

Qwen3-vl-4b

Qwen3_vl_4b_Q4_K_M

この画像は、**日本に生息する「ニジン」（学名：*Mustela putorius*）** と呼ばれる小型の哺乳類、つまり**「ニジン」**を捉えたものです。ただし、この動物は**「ニジン」**と呼ばれる動物ではなく、**「ニジン」**と呼ばれる動物は**「ニジン」**です。つまり、この画像の動物は**「ニジン」**と呼ばれる動物です。

---

### 画像の詳細解説：

#### 1. **動物の種類：ニジン（学名：*Mustela putorius*）**
- **学名**：*Mustela putorius*（ニジン）
- **別名**：ニジン、ニジン、ニジン
- **分類**：哺乳綱、ネズミ科、ニジン属
- **特徴**：
  - 体長約 40～60 cm、体重約 1～2 kg
  - 体毛は茶色や灰色が混ざった縞模様
  - 頭部は丸く、耳は小さく、目は黒く大きく、鼻は短く尖った形
  - 前肢は短く、後肢は長く、足の指は短く、爪は鋭い
  - 体毛は厚く、冬には毛が長く、夏には毛が短く、冬には毛が長く、夏には毛が短く

#### 2. **生態と行動**
- **生息地**：日本全国（特に山岳地帯、森林、草原、農地など）
- **食性**：肉食（鼠、蛙、鳥、昆虫、魚、虫など）
- **行動**：夜行性、昼行性、昼行性
- **繁殖**：年1回、妊娠期間約 30 日、子供は 1～3 匹
- **寿命**：約 10～15 年

#### 3. **生態的役割**
- **捕食者**：小型動物を捕食することで、生態系のバランスを保つ
- **被食者**：人間や家畜の害を防ぐ

#### 4. **保護状態**
- **日本での保護状態**：「ニジン」は**「ニジン」**と呼ばれる動物であり、**「ニジン」**と呼ばれる動物は**「ニジン」**と呼ばれる動物です。つまり、この動物は**「ニジン」**と呼ばれる動物です。

---

### 注意点：
- この画像の動物は**「ニジン」**と呼ばれる動物であり、**「ニジン」**と呼ばれる動物は**「ニジン」**と呼ばれる動物です。
- この画像の動物は**「ニジン」**と呼ばれる動物であり、**「ニジン」**と呼ばれる動物は**「ニジン」**と呼ばれる動物です。

---

### 結論：
この画像は、**「ニジン」**と呼ばれる動物（学名：*Mustela putorius*）を捉えたものです。ニジンは日本全国で生息し、小型の肉食哺乳類として生態系において重要な役割を果たしています。

---

### 付録：
- **「ニジン」**とは、**「ニジン」**と呼ばれる動物です。
- **「ニジン」**とは、**「ニジン」**と呼ばれる動物です。
- **「ニジン」**とは、**「ニジン」**と呼ばれる動物です。

---

### 最後に：
この画像は、**「ニジン」**と呼ばれる動物を捉えたものです。ニジンは日本全国で生息し、小型の肉食哺乳類として生態系において重要な役割を果たしています。

---

### 結論：
この画像は、**「ニジン」**と呼ばれる動物（学名：*Mustela putorius*）を捉えたものです。ニジンは日本全国で生息し、小型の肉食哺乳類として生態系において重要な役割を果たしています。

---

### 最後に：
この画像は、**「ニジン」**と呼ばれる動物を捉えたものです。ニジンは日本

生成が止まらなくなったので、途中で停止させました。

Qwen3_vl_4b_Q6_K

この画像は、**日本でよく見られる野生の「ニキニキ」**（学名：*Mustela putorius furo* の亜種、または「ニキニキ」は「クマタヌキ」の俗称）の写真です。ただし、写真の動物は**「ニキニキ」ではなく、「ニキニキ」の親類である「クマタヌキ」**（学名：*Mustela putorius furo*）の一種です。

---

### 🐾 画像の詳細解説：

#### 1. **種類：クマタヌキ（ニキニキ）**
- **学名**：*Mustela putorius furo*（ニキニキはクマタヌキの俗称）
- **日本名**：クマタヌキ（ニキニキ）
- **特徴**：
  - **毛並み**：毛が非常にふさふさとしており、特に顔周りや背中が濃い茶色〜灰色の毛で覆われています。
  - **耳**：耳は小さく、毛が豊富で、顔の両側に「ニキニキ」の名前が由来するように、毛がふわふわして見えます。
  - **顔**：顔の周りは濃い茶色の毛で、目は黒く、鼻は小ぶりで、口は少し開いています。
  - **体**：体は短く、足は短く、尾は短く、毛がふわふわしています。
  - **行動**：夜行性で、草や木の下に隠れて生活しています。

#### 2. **環境**
- **背景**：画像の背景は草や土の上にあり、自然の環境です。
- **場所**：日本各地の森林や山地、農地の周辺などに生息しています。

#### 3. **行動**
- **食性**：肉食で、昆虫、小動物、魚などを食べます。
- **繁殖**：冬に生まれる子供が、春に育ちます。
- **社会性**：独りで生活する動物で、他のクマタヌキと交わる頻度は低いです。

---

### 🐾 補足：「ニキニキ」の由来
- 「ニキニキ」は「クマタヌキ」の俗称で、日本語では「ニキニキ」（ニキニキ）と呼ばれます。
- この名前は、クマタヌキの毛がふわふわしている様子から来ているとされています。

---

### 📌 まとめ
この画像は、**クマタヌキ（ニキニキ）**が草の上に座っている様子を捉えたものです。毛並みがふわふわで、顔周りが濃い茶色の毛で覆われています。自然の環境で生活する、夜行性の小型哺乳類です。

---

### 🐾 注意点
- クマタヌキは「ニキニキ」と呼ばれるが、これは「ニキニキ」の俗称であり、学名は *Mustela putorius furo* です。
- この動物は日本各地に生息しており、自然保護の対象として重要です。

---

この画像は、自然環境で生活するクマタヌキの姿をよく捉えたものです。自然と共生する動物として、保護と観察が大切です。

--- 

✅ **結論**：この画像は「クマタヌキ（ニキニキ）」の写真であり、毛並みがふわふわで、自然の環境で生活しています。日本各地に生息する小型哺乳類です。

Qwen3_vl_4b_Q8_0

単体のプロンプトだけだと、うまく文章が生成されない。

この画像は、**日本に生息する「ニワトリ」**（おそらく「ニワトリ」ではなく「**ニワトリ**」の意図が誤っている可能性があります。実際には、画像に写っているのは「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**ニワトリ**」ではなく、「**

別の会話をはさむとある程度体裁が整った形で生成してくれる。

入力：
「こんにちは」

出力（Qwen3_vl_4b_Q8_0）：
「こんにちは！ 😊
何かお手伝いできることがありましたら、いつでもお気軽にお知らせください。質問や悩み、お役に立てることがあれば、全力で応援しています！
どうぞ、お気軽にご相談くださいね。」

上記のやり取りを挟んでから生成した結果が以下。

はい、この画像について詳しく解説します。

---

### 🐾 画像の主な内容

画像には、**日本に生息する「ニホンムサシ」**（学名：*Mustela putorius furo*）と呼ばれる動物が写っています。これは、日本でよく見られる**「ニホンムサシ」**（俗称：**「ニホンムサシ」**）です。

---

### 🧬 1. 種類と学名

- **学名**：*Mustela putorius furo*
- **日本名**：ニホンムサシ
- **英名**：Japanese raccoon dog（日本語では「ニホンムサシ」）
- **別名**：**「ニホンムサシ」**（日本語では「ニホンムサシ」）
- **分類**：哺乳綱・食肉目・ムサシ科（Mustelidae）

---

### 🐾 2. 特徴

#### ✅ 外見の特徴

- **毛色**：茶色や灰色、黒と茶色の混ざった毛並み。毛が長く、柔らかく、毛の質感が豊か。
- **顔**：顔の周りには**毛がふわふわ**で、**耳の周りや顔の一部が白っぽい**（画像では少し見えにくいが、通常は白い毛が目立つ）。
- **体の大きさ**：体長約 40〜60cm、体重約 2〜5kg。
- **足**：短く、足の裏は滑りやすい。
- **尾**：短く、毛がふわふわで、体の後ろに伸びる。

#### ✅ 行動と生態

- **夜行性**：夜間に活動する。
- **食性**：肉食。主に小動物（ウサギ、ネズミ、カエルなど）を食べ、時には昆虫や果物も食べる。
- **繁殖**：1年に1回、妊娠期間は約 60日。子犬は3〜5匹が生まれる。
- **生息地**：日本全国（特に山間部、林地、草むらなど）に生息。

---

### 🌳 3. 生息地

- **日本全国**：山間部、林地、草むら、川沿いなど。
- **特に多い地域**：北海道、本州、四国、九州の山地や森林地帯。

---

### 🌿 4. 保護状態

- **日本では**、**「ニホンムサシ」**は**「保護種」**に指定されており、**「保護対象」**です。
- **国際的な保護**：IUCNでは「**Least Concern**（最も危険ではない）」と評価されています。

---

### 📌 5. なぜ「ニホンムサシ」なのか？

「ニホンムサシ」という名前は、**「日本」**という国名から来ています。  
これは、**「ニホン」**（日本）＋「ムサシ」（動物の名前）という意味です。

---

### 🧭 6. まとめ

| 項目 | 内容 |
|------|------|
| 種名 | ニホンムサシ（*Mustela putorius furo*） |
| 特徴 | 毛がふわふわ、顔の周りに白い毛、夜行性、肉食 |
| 生息地 | 日本全国の山間部や林地 |
| 保護状態 | 保護種（日本国内では） |
| 学名 | *Mustela putorius furo* |

---

### 📸 7. 画像の補足

画像の動物は、**「ニホンムサシ」**の一種（おそらく「ニホンムサシ」）で、**「ニホンムサシ」**の特徴をよく見せています。

---

### 🧠 おまけ：「ニホンムサシ」の由来

「ニホンムサシ」という名前は、**「日本」**という国名から来ています。  
これは、**「ニホン」**（日本）＋「ムサシ」（動物の名前）という意味です。

---

### 🌟 最後に

「ニホンムサシ」は、日本で生息する珍しい動物で、**「保護種」**として保護されています。  
この画像は、**「ニホンムサシ」**の**外見や生態**をよく示しています。

---

### 📌 まとめ

> この画像は、**「ニホンムサシ」**（*Mustela putorius furo*）の写真です。  
> これは、日本全国に生息する**「保護種」**の動物で、**「ニホン」**（日本）＋「ムサシ」（動物の名前）という意味です。

---

ご参考になれば幸いです！ 🐾  
何か他にもお知らせしたいことがあれば、いつでもお気軽にお尋ねくださいね！

---

※ **補足**：  
**「ニホンムサシ」**は、**「ニホンムサシ」**の一種であり、**「ニホンムサシ」**の

Qwen3-vl-8b

Qwen3_vl_8b_Q4

この画像は、**日本で見られる「貉（こりょう）」**、学名：*Nyctereutes procyonoides* の個体を写しています。日本では「**オオカミの仲間**」とされますが、実際には「**犬科・貉属**」に属する哺乳類です。

---

### 🐾 基本情報

- **学名**：*Nyctereutes procyonoides*
- **日本名**：貉（こりょう）／オオカミの仲間（誤解が多いが、実際はオオカミとは異なる種）
- **別名**：「**コリャン**」、「**コリャンザル**」（地方によっては）
- **分類**：哺乳綱・食肉目・犬科・貉属
- **分布**：日本全国（特に山間部・森林地帯）、中国、韓国、朝鮮半島、ロシアの東部など

---

### 📷 画像の特徴（写真の内容）

この画像では、以下のような特徴が見られます：

#### 1. **体色と毛並み**
- 体は濃い茶色や黒褐色の毛で覆われており、背中や体側には茶色の斑点や縞模様が見られることがあります。
- 顔の周りや耳の周りはやや明るい茶色（オレンジ系）で、顔の中央は黒っぽく、目元や鼻の周りが濃い色です。
- 毛はやや長く、風に吹かれてもまとまっていないため、風の強い場所にいる可能性があります。

#### 2. **姿勢と行動**
- 画像では、**地面に座って前足を前に出している**姿勢です。
- 顔を少し下に向けており、**前足で地面を押さえながら、何かを確認しているか、あるいは警戒している様子**がうかがえます。
- 体の向きや姿勢から、**静かに観察しているか、少し警戒している**と推測されます。

#### 3. **環境**
- 地面は**湿った草地**のようで、土や草が混ざった地面にいます。
- 画像の背景はぼやけており、自然の森や草原の環境であることがわかります。
- 画像の左上には、**木の幹の一部**が見えます。これは、動物が木の近くにいることを示唆しています。

---

### 🐾 貝（貉）の生態と行動

- **夜行性・昼行性**：主に夜に活動しますが、天候や餌の状況によって昼間にも活動することがあります。
- **食性**：雑食性で、昆虫、果物、野菜、小動物、ゴミなどを食べます。
- **社会性**：基本的に**単独行動**ですが、繁殖期にはペアで行動する場合があります。
- **鳴き声**：高い声で「**コリャン！コリャン！**」と鳴くのが特徴で、これは「**警告音**」や「**呼びかけ音**」として使われます。
- **危険時の行動**：危険を感じると、**逃げるか、木に登るか、または地面に伏せる**ことが多いです。

---

### 📷 写真の撮影ポイント

この画像は、**自然の中での野生動物の姿を捉えたもの**であり、以下の点に注意する必要があります：

- **野生動物の撮影は慎重に**：動物は野生のため、**直接的に近づいたり、声をかけたりすると驚いて逃げてしまう可能性**があります。
- **撮影の場所と時期**：この画像は、**春～夏の湿った草地**で撮影された可能性が高いです。この時期は、動物が活動が活発になる時期です。
- **写真の質**：画像はややぼやけており、**撮影時の距離や焦点の調整が不完全**な可能性があります。ただし、それでも動物の姿を確認できるため、写真として十分な価値があります。

---

### 🌿 貝（貉）と人との関係

- **日本の伝統的なイメージ**：「**山の精霊**」や「**妖怪**」として、日本の伝説や童話に登場します。例えば、「**コリャンザル**」という名前は、日本の伝説に登場する「**コリャンザル**」の存在を指すことがあります。
- **現代の関係**：近年では、**都市部や住宅地に近づくことが多い**ため、人との接触が増えており、**警戒心を保つことが重要**です。
- **保護状況**：日本では、**準保護動物**として扱われており、**野生動物保護法**によって保護されています。

---

### ✅ 結論

この画像は、**日本で見られる野生の「貉（こりょう）」**を写したものです。体色は茶色と黒褐色の混ざったもので、顔の周りは明るい茶色、耳はやや長く、体は座った姿勢で、地面に前足を出しています。背景は湿った草地で、自然の森の環境にいることがわかります。この動物は、夜行性で雑食性であり、日本の伝統的な妖怪や精霊としてのイメージを持つ存在です。

---

### 📌 補足情報（興味深い事実）

- **「コリャン」の鳴き声は、日本の伝説に登場する「**コリャンザル**」の名前とも関係しています**。
- **「コリャンザル」は、日本の伝説の妖怪の一種**で、夜に活動し、人を襲うことがあるとされています。
- **現代では、野生動物保護法によって保護**されており、**人との接触を避けることが推奨**されます。

---

この画像は、自然の中での野生動物の姿を捉えたものであり、**日本の自然と野生動物の関係性**を理解する上でも非常に価値のある写真です。

結果まとめ

結論を簡単にまとめると以下のようになりました。

gemma-3-4bの出力結果の評価

ファイル名 (量子化)	ファイルサイズ	タヌキの判別可否	説明内容の妥当性	コメント
Qwen3_vl_4b_Q4_K_M	3.33GB	×	×	画像に移っている特徴の抽出はすこしできている様子。ただし、そもそもの文章生成が怪しい。
Qwen3_vl_4b_Q6_K	4.14GB	△	〇？	クマタヌキ（ニキニキ）なる種類は存在しない。ただ、タヌキとしてはとらえられている様子はある。
Qwen3_vl_4b_Q8_0	5.12FB	×	×	画像に移っている特徴の抽出はすこしできている様子。ただし、これも文章生成が怪しい。

Qwen3_vl_8bの出力結果の評価

ファイル名 (量子化)	ファイルサイズ	タヌキの判別可否	説明内容の妥当性	コメント
Qwen3_vl_8b_Q4	6.19GB	〇	〇？	貉は主にアナグマを指すが、地域や時代によってはタヌキも示すので厳密には間違いではない。また、学名は正しく出力できている。ただし、日本での扱いが少しおかしい。

モデルサイズが4B、8Bともに正しく文章が生成されていれば画像中のタヌキの特徴である「毛がふさふさ」、「毛色、体色が茶色」のような説明がされているので、モノの特徴は認識できているようでした。

傾向として、モデルサイズが4Bの場合は、そもそもの言語モデル性能とし精度が悪いことがわかりました。
モデルサイズが8Bの場合は、タヌキまでは認識はできているものの、説明内容は微妙に信頼できない結果となりました。