🎯 ローカルで動作するAIコーディングアシスタントを構築する：Qwen3 + Ollama + Continue.dev — 超高速で完全プライベート 💻🔒🚀

更新: 2025年10月

忠実な「自分専用AIペット」vs. 大量に群がる「外部サービス」。片方はあなたのコードを大事に扱い、もう片方は…ただ存在するだけかもしれません 🤖💥

ここでは、GitHub Copilot や Cursor、Windsurf を経て、最終的にローカルのみで高速・高品質を維持できる構成に落ち着いた実体験を共有します。手順、理由、注意点を実用的にまとめます。

💡 私のAIコーディングスタックの進化

1. GitHub Copilot：良い出発点。だがコンテキストが限定的で深くはない。
2. Cursor：特に Cursor Composer によって、柔軟さとパワーが大幅に向上。
3. Windsurf：コードベースのインデックス／理解能力が非常に高い。どのファイルを見るべきかをこちらが指示しなくても「分かる」レベル。ただし制約もありました。

🛑 問題点：コスト、速度、利用制限 😤

• Windsurf は $20/月 と妥当な価格帯だが…
• 利用には 500 credits/月 の上限があり、Claude 3.7 の「thinking mode」は呼び出しごとに 1.5x 消費することがある。
• 有料でも応答が遅くなることがある ⏳。
• Cursor や Copilot でも似たような制約がある。
• さらに、データのプライバシーが許されない職場では外部サービスが使えず詰む。

🚨 登場：Ollama + Continue.dev

「強力なモデルをローカルで動かせないか？」と考え、試した構成：

• Ollama：ローカルで LLM をホストするための仕組み（アイデアとして有効）。
• Continue.dev：Cursor / Windsurf に近いエクスペリエンスを VS Code 内で提供。

しかし…

• Llama3 や Mistral といったモデルは、ラップトップ上では重くて動作が遅いことがあった。
• ノートPCだと計算リソース面で厳しく、動作が遅延することがある 💻➡️🐢。

✨ そこで Qwen3 が登場：ゲームチェンジャー 🎯💥

特に qwen3:30b-a3b が印象的でした。

• Distillation と Mixture-of-Experts (MoE) を組み合わせ、推論が非常に速い。
• 見かけ上は 30B だが、1回のプロンプトあたり実際に稼働するパラメータは 3B 程度に抑えられる → 高速化に寄与している。
• Claude 3.7 Sonnet や GPT-4o に近い挙動を示すこともある（著者の体感）。
• ラップトップでもスムーズに動くと確認済み：i7 + RTX 2070、Mac M4 Max などで動作検証済。
• そして最大の利点：APIキー不要、データ漏洩リスクが低く、待ち時間がほぼない。

📌 手順：Mac と Windows で Qwen3 をローカルにセットアップして Continue.dev と連携する方法 🖥️🛠️

以下は大まかな手順です。実際の環境やバージョンに応じて適宜読み替えてください。🔧

✅ Step 1: Ollama をインストールする

Mac:

brew install ollama

Windows: ダウンロード先: ollama.com/download

インストール後に Ollama を起動します。

✅ Step 2: Qwen3 と埋め込みモデルを取得する

ターミナルまたは PowerShell で:

ollama pull qwen3:30b-a3b
ollama pull nomic-embed-text

なぜこの 2 つか？

• qwen3:30b-a3b：メインの「思考エンジン」🧠（チャット、オートコンプリート、編集等を担当）。
• nomic-embed-text：コードベース全体の意味的な検索・類似度処理に使う埋め込みモデル（後述のインデクシングで重要）⬇️。

✅ Step 3: VS Code に Continue.dev 拡張を入れる

1. VS Code を開く。
2. 拡張機能（左サイドバーの検索アイコン）へ。
3. “Continue” を検索。
4. 「インストール」をクリック。

（拡張名や UI は将来変わることがあるので、見つからない場合は Continue.dev のドキュメントを参照してください。）

✅ Step 4: Continue を Qwen3 に向けて設定する

1. VS Code の Continue タブへ（🧠 アイコン）。
2. 歯車アイコン ⚙️ > Open Config を選択。
3. デフォルト設定を次の YAML に置き換える（正確にコピペしてください）:

name: Local Assistant  version: 1.0.0  schema: v1  models:    - name: Qwen3-30b      provider: ollama      model: qwen3:30b-a3b      roles:        - chat        - edit        - autocomplete        - apply        - summarize    - name: embeddingsProvider      provider: ollama      model: nomic-embed-text      roles:        - embed  context:    - provider: code    - provider: docs    - provider: diff    - provider: terminal    - provider: problems    - provider: folder    - provider: codebase

（上のコードブロック内は設定ファイルとしてそのまま利用します。変更する場合は YAML の書式に注意してください。）

🔍 YAML の各項目が意味すること

models:

• アシスタントの「脳」を定義します。
  • Qwen3–30b（チャットや編集）
  • embeddingsProvider（コードベース理解のための埋め込み生成）

context:

• AI が問題解決に使える情報の範囲を指定します。
  • code: 現在編集中のファイル
  • docs: README 等のドキュメント
  • diff: Git の差分
  • terminal: ターミナル出力（デバッグ用）
  • problems: Linter/TypeScript 等の警告・エラー
  • folder: プロジェクトフォルダ全体
  • codebase: 埋め込みモデルで作成したコードベースのインデックス

注記: context を狭めると、アシスタントが参照できる情報が限定され、問題解決能力が落ちます。ファイル単位だけだと「車のエンジンだけ見せられて車全体を理解できない」ような状況になります 🚗。

（補足）Continue の設定はプロジェクト単位で変えられるので、機密プロジェクトでは context を厳しく制限する、など運用ルールを作ると安心です ⚠️。

✅ Step 5: 完了！ 🎉

これでローカルAIアシスタントが稼働します。主なメリットは：

• 🔒 プライバシー保護（データが外部に出ない）
• ⚡ 高速（ローカル上で推論）
• 💪 力強い能力（GPT-4o / Claude 3.7 に匹敵する挙動を確認）
• 🌐 オフラインでも動作可能

📌 実用的な注意点と補足（運用上のチェックリスト）

• 起動・推論にはマシンリソースを消費します。特にモデルのロード時は一時的にメモリとディスク IO が高くなる点に注意。
• Ollama と Continue のバージョンで挙動が変わる場合があります。アップデート時は設定バックアップを取ってから行ってください。
• 埋め込み（codebase index）は最初に全コードを処理するため時間とディスク容量を消費します。大規模リポジトリでは分割や除外ルールを検討してください。
• 職場のポリシーに従い、ローカルであってもデータ取り扱いルールを明確にして運用すること。
• Windows ユーザーは WSL を経由するとスムーズに動く場合があります。環境差によるトラブルシュートを想定してください。

（補足）小さな表：運用時に確認すべきポイント

項目	説明
モデル取得	ollama pull でローカル取得
ディスク	埋め込みインデックスはサイズ増加の原因に
メモリ/VRAM	起動時にリソースを多く使う場合あり
セキュリティ	ローカルでも社内ルールに従うこと
維持管理	定期的にモデルとツールのバージョン確認を推奨

📌 最後に（まとめ）

有料サービスのトークン制限、遅延、外部データ送信に疲れたら、Qwen3 + Ollama + Continue.dev の組み合わせは現実的な代替になります。私の環境では作業効率が大きく改善しましたが、各自のハードウェアやポリシーに合わせて調整してください。🧠✨

参考リンク: Continue.dev（公式）: continue.dev 、Ollama ダウンロード: ollama.com/download