１．DeepSeek R1のローカル実行

遅まきながら、下記の資料「Run DeepSeek-R1 on Your Laptop with Ollama」を参考に、DeepSeek R1のローカル実行などを試してみました。実行環境は、Windows 11です。

（１）Ollmaのインストール
下記サイトより、ollamaのインストーラをダウンロードし、実行します。

Download Ollama　

ollamaは、スタンドアローンで様々なLLMを実行できるOSSです。
ライセンスはMIT Licenseになります。

インストールが完了したら、ターミナルを開き、下記のバージョン確認のコマンドを実行することで、インストール確認とします。

PS C:\tmp> Ollama -v
ollama version is 0.5.7

（２）モデルをダウンロード
DeepSeek-R1の場合、1.5b、7b、8b、14b、32b、70b、671bのパラメータ数のモデルが使用できます。1.5bは、パラメータ数が1.5 billion、すなわち15億になります。また、様々な蒸留モデルを利用できます。詳細は、下記の記事を参照してください。

7bを使用する場合、ダウンロードコマンドは下記になります。

ollama pull deepseek-r1:7b

実行結果は、下記のようになります。

（３）モデルを実行
下記のコマンドでモデルが起動し、チャットが利用できます。

ollama run deepseek-r1:7b

なお、APIサーバのホストは"localhost:11434"となります。

２．Cursorとの接続

下記の資料を元に、ローカルで動作するDeepSeek R1とCursorを接続してみます。

cursorから、localhost上のAIサーバに直接アクセスできないようなので、ngrokを使用します。ngrokは、ローカルに起動したサーバを外部公開するためのfornt doorの機能を提供しています。

（１）ngrokの準備
　①　ngrokにアカウントを作る
　②　エージェントツール(ngrok.exe)をダウンロードして、PATHが通った場所に配置する。
　③ "ngrok config add-authtoken"コマンドで、AUTHTOKENを設定する。

（２）環境変数OLLAMA_ORIGINSを設定
環境変数OLLAMA_ORIGINSに*を設定します。

（３）Ollamaのサーバを再起動
タスクバーのインジケータの中に隠されているアイコンを右クリックし"Quit Ollma"を押下し終了します。

スタート画面から、Ollamaのサーバを起動します。

（３）モデルを実行
下記のコマンドで、モデルを起動します。

ollama run deepseek-r1:7b

（４）ngrokの実行
別のターミナルを開き、下記のコマンドでollamaの外部公開を行います。

ngrok http 11434 --host-header="localhost:11434"

実行すると下記のような画面になります。
Forwardingで表示されているもの(513e-118-106-20-71.ngrok-free.app)を使用します。
この値はngrokコマンド実行するたびに、毎回変わります。

（５）[cursorの設定] モデルの登録
Cursor Setting -> Modelsで、起動しているモデル名を登録します。
今回の場合、"deepseek-r1:7b"になります。

（５）[cursorの設定] OpenAI Keyを設定
下記を設定し、有効にします。
なお、Verifyは失敗するけど気にしないでください。

項目	設定値	備考
Override OpenAI Base URL	https://513e-118-106-20-71.ngrok-free.app/v1	ngrokでForwardingされたURLに"/v1"を付け加えます
OpenAI Key	ollama

（６）モデルを選択して、AIと対話
モデルに"deepseek-r1:7b"を指定することで対話可能です。
ただ、私の環境だと、応答時間が遅く、ちょっと実用的ではありませんでした。

ローカル起動しているDeepSeek R1に直接チャットすると、すぐにレスポンスがあるので、
Cursor ⇔ ngrokのForwarding先 ⇔ ngrokのエージェント ⇔ ローカルのDeep Seek R1
と通信が走るので、その間にボトルネックがありそうです。
（ひょっとしたら、ngrokを優勝にグレードアップしたら解決するかも)

2025.01.30 山崎作成