MacBook Pro (2021) にローカルLLM (Qwen3.6:27b) を入れてみた

Goal

自分のノートパソコンに何らかのLLMを入れてみる。ローカルで動くところを見て、感動したい。

PCスペック

• MacBook Pro (2021)
• チップ Apple M1 Pro
• macOS Tahoe
• 32GB RAM
• 1TBストレージ

参考

• https://uravation.com/media/qwen35-local-pc-guide/
• chatGPTとのチャット
• Claudeとのチャット

手順（簡易版）

1. brew install ollama
2. ollama serve
3. (新規ターミナルウィンドウを開く)ollama pull qwen3.6:27b
4. ollama run qwen3.6:27b

手順（詳細版）

1. ollamaのインストール。ollamaとは
   Ollamaは、LLMの実行に必要なモデルダウンロード・量子化済みファイルの管理・GPU/CPU推論・APIサーバ起動を一括で面倒見てくれるOSSランタイム だそうです。
2. brew install ollama brewの入れ方
3. インストールには5分ほどかかった
4. ollama --versionを実行したところ、
   Error: could not connect to ollama server, run 'ollama serve' to start it
   と出たので、ollama serveを実行。これはollamaをローカルサーバーとして起動するコマンドだそうです。
5. ターミナルで新規ウィンドウを開き、ollama pull qwen3.6:27bを実行。
6. モデルのダウンロードに10分ほどかかった
7. ollama run qwen3.6:27b すると、対話モードが始まる。やったね。
8. 別ウィンドウでollama psとうち、100% GPUと出たら、GPUで動いている証拠
9. 終了するには、対話モードで/byeを入力
10. その後、ollama serveが起動しているウィンドウを閉じるか、control + c

次回からの起動

1. ollama serve
2. 新規ウィンドウを開く
3. ollama run qwen3.6:27b

感想

思ったよりも簡単にローカルLLMが実行できてびっくりした。ノートパソコンでも動くところを目の当たりにし、感動した。問題点は：

• LLMが動いている間、PCのファンが最大で動き始め、市の自習スペースで少し恥ずかしい思いをした......
• 「こんにちは」程度の返事でもめちゃ時間かかる（5分くらい）
  

思考プロセスまで見えるのが面白い。でも「~けん」って博多弁じゃなかったっけ......?