最近、ローカルLLM環境をいろいろ試している中で、雑誌「日経ソフトウエア」（何月号だったかは忘れてしまった...）の記事で見かけた ollama launch を使ってみました。
とは言え、今の時点ではローカルAIとしては使い物にならず、今は無料で使えるクラウドAPIみたいなqwen3.5:cloudで遊んでます。
以下、仕組みやセキュリティなどAIにまとめてもらった内容です。
■ 試した環境
- MacBook Air (M4, RAM 24GB)
- Ollama.app
- モデル: qwen3.5 系
■ ローカルモデルは動くが「ollama launch」経由だと遅い
まず結論から。
-
qwen3.5:9b→ Ollama単体なら普通に動く - しかし
ollama launch claude経由だと かなり遅い
体感的には、
- レスポンス開始までが遅い
- トークン生成も遅い
正直、実用レベルではありませんでした。
これはおそらく：
- Claude Code側のプロトコル変換オーバーヘッド
- ストリーミング処理の差
- ローカル推論＋ブリッジ処理の二重負荷
このあたりが原因だと思われます。
■ cloudモデルを指定すると一気に速くなる
ところが、次のコマンドを試すと状況が一変します。
ollama launch claude --model qwen3.5:cloud
これだと：
- レスポンスが明らかに速い
- 実用レベルで普通に使える
- 体感は「クラウドLLM」
つまりこれは名前の通り、ローカルではなくクラウド側で推論していると考えて良さそうです。
■ qwen3.5:cloud の特徴
調べた限り、qwen3.5:cloud は以下の特徴があります。
1. 実体はリモート推論
- ローカルにモデルは存在しない
- APIのように外部サーバーで実行される
2. 高速・高性能
- GPUクラスタ上で動作している可能性が高い
- ローカル9Bとは比較にならない速度
3. セットアップ不要
- ダウンロード不要
- VRAM/RAM制約なし
つまり「Ollama経由で使える無料API」に近い存在です。
■ なぜ無料で提供できるのか？
ここが一番気になるポイントです。
完全に公式に明言されているわけではありませんが、一般的に考えられる理由は以下です。
1. プロモーション目的
- モデルの普及
- 開発者コミュニティの獲得
いわゆる「まず使ってもらう」戦略です。
2. 使用データの収集
- プロンプトやコードの傾向
- ユースケースの分析
モデル改善のためのデータ収集の可能性があります。
3. 将来的な課金モデル
- 現在は無料
- 将来的に制限 or 有料化
これは他のAIサービスでもよくある流れです。
4. 推論コストの最適化
- バッチ処理
- 低コストGPU
- 混雑時制御
裏側でかなり効率化されている可能性もあります。
■ セキュリティリスクについて
ここはかなり重要です。
qwen3.5:cloud はローカルではなく外部サーバーにデータを送るため、以下のリスクがあります。
1. 入力データの外部送信
- ソースコード
- APIキー
- 機密情報
これらが外部に送られる可能性があります。
2. 学習・ログ保存の可能性
明確に「学習されない」と保証されていない場合：
- ログとして保存
- モデル改善に利用
される可能性があります。
3. コンプライアンス問題
企業利用の場合：
- 情報漏洩リスク
- NDA違反
- 個人情報保護
などの問題に直結します。
■ 自分の使い分け
自分は以下のように割り切っています。
✔ cloudモデルを使う場合
- 公開前提のコード
- OSS
- サンプルコード
- 調査・実験用途
❌ 使わないケース
- 非公開プロジェクト
- 認証情報を含むコード
- 顧客データ
■ 結論
-
ollama launch+ ローカルモデルはまだ実用性が低い -
qwen3.5:cloudは非常に快適 - ただし 完全にクラウドサービスとして扱うべき
■ 個人的な感想
正直、
「これ無料でいいの？」
というレベルで快適です。
ただし、それと同時に：
「無料には理由がある」
とも感じます。
■ まとめ
- ローカルLLM → 安全だが遅い
- cloudモデル → 速いがリスクあり
このトレードオフを理解した上で使うのが重要です。
もし「ローカルで速くする方法（量子化・GPU活用）」や
「安全にクラウドLLMを使う設計（プロキシ・マスキング）」なども気になる場合は、そのあたりも解説できます。