目的
作業用のMacのスペックが低いため、MacのEmacs上でEllamaを使用しつつ、Ollamaを別PC(Ubuntu)で実行したい!
手順
1. Ubuntu側のOllamaのリモートアクセス設定
まず、Ollamaをリモートアクセスできるように、Ubuntu上で設定を行います。設定方法については、こちらの記事 を参考にしました
2. Emacs側のEllama設定
次に、MacのEmacsでEllamaを設定し、Ubuntu上で動作しているOllamaに接続します。以下は設定のサンプルです。
(use-package ellama
:init
;; setup key bindings
(setopt ellama-keymap-prefix "C-c e")
;; language you want ellama to translate to
(setopt ellama-language "Japanese")
;; could be llm-openai for example
(require 'llm-ollama)
(setopt ellama-provider (make-llm-ollama
:host "192.168.x.x" ;; <======= Ubuntu側のIPアドレスを指定
:chat-model "codestral:22b-v0.1-q4_K_S"
:embedding-model "codestral:22b-v0.1-q4_K_S")))
:host
の部分で、UbuntuマシンのIPアドレスを指定します。
おわり
Macのリソースを節約して、リモートでOllamaを利用できるようになりました 1
参考
Ollamaって何?の状態からでもこちらの記事を読めばすぐに導入できます。感謝です
-
Ubuntu側のリクエストログは、
journalctl -u ollama
で確認できます。 ↩