ZedでLLM ProviderをLM Studioにするためにやったこと

前提

• Mac(Mシリーズ)を使っている
• LM Studioを使っている。デスクトップアプリとCLI(lms)をインストールしている
• Zedを使っている
• LM StudioやZed自体の話はここではなし

背景

• LM StudioにダウンロードしたローカルモデルをZedのAgent Panelで使いたくなった
• Agent Panelで選択できるLLM ProviderにLM Studioを選びたかったが、ちょっと手間取ったので備忘録として記載

困ったこと

モデルは違うが、公式の記載の通りにlms serverは起動し、単純にAgent PanelのSettingsで画像の通りに記入し、Connectを押しても選択モデルにでLM Studioが有効化されなかった

やったこと

• LM Studioのデスクトップアプリを起動し、Local Server > Server Settings > Serve on Local Networkを有効にする

ServerのURLが変わるのでその変わったURLをAPI URLに入力し、Connectedを押す。API KeyはなくてOK。こうすることでLLM ProviderとしてLM Studioを認識し、LM StudioでダウンロードしたモデルをZedのAgentとして使用することができるようになった。

こうなったところでModelをloadして開始する。

補足
きちっとAPIを活用するならAuthenticationを抑えつつ、APIのドキュメントを読んで使いましょう。

• Authentication
• LM Studio API

以上、どこかでお役に立てれば幸いです。