ローカルLLMでコーディング支援は出来るのか
GitHub Copilot, Cursor, Cline, Windsurfなどコーディング支援系AIサービスが多く登場しておりますが、セキュリティやコストの観点から業務への導入にはハードルを感じているプロジェクトもいまだ多くあるかと思われます。
ローカルLLMによるコーディング支援が可能になると、以下のメリットがあります。
- 外部に情報を送信せずにローカルマシンで完結できる
- インターネット接続不要
- サブスクリプション費用不要
- 必要に応じて、モデルの選択やカスタマイズができる
そこで、今回は最新モデルを使用したローカルLLMとVS Codeを連携し、どれだけ使えるかを実験してみます。
PCスペック
- OS: Windows 11 64ビット (24H2, OS ビルド 26100.3915)
- メモリ 16GB
- 専用GPUなし
Ollama（オラマ）のインストール
OllamaはローカルでLLMを利用するためのオープンソースアプリケーションです。
上記リンクからOllamaのインストールができます。
Qwen3モデルのダウンロード
↑利用可能なモデル一覧が確認できます。
今回はアリババが2025/4/29に公開した最新モデルのQwen3をダウンロードしてみます。
モデルのパラメータ数が選択できますが、今回は4bのモデルで実験してみます。
下記コマンドにより、モデルがダウンロードされ、ダウンロード完了次第モデルが実行可能な状態になります。
ollama run qwen3:4b
http://localhost:11434/をブラウザから開くことで、Ollamaが起動しているかを確認できます。
コマンドラインからQwen3と対話してみる
デフォルトで Thinking Mode（推論モード） になっているため、前置きが長く、出力に時間がかかります。
>>> こんにちは
<think>
Okay, the user said "こんにちは" which is Japanese for "Hello". I need to respond in a friendly and welcoming manner. Since they might be a non-native speaker, I should keep the response simple and
positive. Maybe start with a greeting in Japanese, then a welcome message in English. I should also offer assistance and ask how I can help them today. Keep it conversational and open-ended to encourage
further interaction.
</think>
こんにちは！😊
ようこそ、ここに来てくれて本当にうれしいです。
どんなことをお手伝いできますか？
何か質問があれば、いつでもお気軽におねがいください！
30秒程度で返答されました。プロンプトの後ろに/nothinkまたは/no_thinkをつけることで、推論を行わないNon-Thinking Modeで出力されます。
>>> こんにちは /nothink
<think>
</think>
こんにちは！どうぞよろしくお願いします。何かお手伝いできますか？
こちらは5秒程度で出力されました。
今回コード補完やチャットに使用する際は推論を行わないNon-Thinking Modeで設定していきます。
VS Codeとの連携
- 拡張機能のContinueを入れる
https://www.continue.dev/ -
.continue\config.jsonに以下を記述する
{
"models": [
{
"title": "qwen3:4b",
"provider": "ollama",
"model": "qwen3:4b",
"systemMessage": "/nothink",
"apiBase": "http://localhost:11434"
}
],
"tabAutocompleteModel": {
"title": "qwen3:4b",
"provider": "ollama",
"model": "qwen3:4b",
"systemMessage": "/nothink",
"apiBase": "http://localhost:11434"
}
}
上記でVS Code側の設定は完了です。
ゼロからゲームを作らせてみる
今回はじゃんけんゲームを作成してもらいました。
2分ほどで動作するコードを出力してくれました。
（実際にん手みたいな些細なミスあり）
既存のコードについて質問してみる
上記のじゃんけんゲームについて部分的に質問してみました。Continueではコードを範囲選択し、ctrl+Lでチャットにコードを追加できます。
1分半ほどで処理の説明を出してくれました。
既存のコードを修正してもらう
上記のじゃんけんゲームについて部分的に修正をしてみました。Continueではコードを範囲選択し、ctrl+Iでチャットにコードを追加し、編集を依頼できます。
要求に対して2分ほどでコードを修正してくれました。
ちゃんと動作もします
タブ補完をさせてみる
設定やPCスペックの問題かもしれませんが、コード補完の提案までにコーディングの手を1~2分止める必要があり、あまり実用的ではなさそうです。
使い物になるかどうか
| ユースケース | 評価 | 使用感 |
|---|---|---|
| チャットによる対話 | 〇 | 問題なく使用できる、少し出力が遅い（軽い要求なら1～2分）、物量の多いコードは同時に読み込ませられない |
| エディットモードによるコード修正 | 〇 | 問題なく使用できる、少し出力が遅い（軽い要求なら1～2分）、コード範囲が広いと時間がかかる（100行のコードの修正に10 分かかった） |
| コードのタブ補完 | △ | 1~2分コーディングの手を止めないとコードの提案がされない、提案の精度も少し微妙 |
| エージェントモード | （現状ローカルLLMでは使用できない） | - |
メモリを食うのがデメリット
4bのモデルだと、使用中はつねに3~4GBほどのメモリを占領するので、メモリに余裕がないPCだと動作が難しいです。
（追加実験）Qwen3:14bモデルでも同様の実験をしてみましたが。。
上記スペックのPCで動作するおそらく限界である14bのモデルでも実験してみました。
（噂では、14bのモデルでGPT-4oに匹敵する性能を持っているとのこと。）
14bのモデルは、メモリを10GB程度空けないと動作しませんでした。また、コードのエディットに30分程度要したり、PCのスペック不足のためかとても実用的な動作はしませんでした。
まとめ
GitHub CopilotやCursorで利用できる上位モデルを使用する場合と比較すると、まだまだ使い勝手が不十分なところもあります。
しかしながら、軽量な要求に限定すれば、ローカルLLMによるコーディングアシスタントは十分使い物になりました。
セキュリティやコストの観点から生成AIの利用が制限されるプロジェクトで、ローカルLLMを導入するのは大いに可能性を感じました。
さらにメモリやGPUを積んであるPCであれば、もっと大きいモデルをサクサク利用できるので、高スペックのPCや自前のサーバーで大きいLLMモデルをホストするのもありかもしれません。