みなさんchatgptやcloude、github copilotつかってますか？
もうAIなしのコーディングはできないと思ってませんか？
しかしながら、機密性の高い情報を入力することは憚られる、、、

でも大丈夫！ローカルならね！

ということで、ローカルLLM（Large Language Model）が簡単に動かせるLM studioとVScodeで利用するための簡単なガイドです。

LM Studioを利用する前に、必要な環境を整える必要があります。以下の記事をみれば簡単に windows、Mac、Ubuntuともに設定できるはずです。。。

次に、使用するLLMをインストールします。Hugging Faceというプラットフォームからモデルをダウンロードすることができます。自分の持っているPCと相談しながらどのモデルを使用するかを選択してください。今回私はCodeLlama-7b(5bit量子化)を使用していきます。

今回は、VSCodeからアクセスしてLLMを利用するためにLM Studio上でローカルサーバーを立てます。画面左の「サーバー」アイコンをクリックし、「Start Server」ボタンをクリックします。これで、localhost:1234にアクセスすることで、LLMを利用可能になります。

LLMをVScodeで利用するためには、continue.という拡張機能をインストールします。この拡張機能を使うと、VScode上でCursorのような機能を実現することができます。

インストール後、拡張機能アイコンをクリックします。すると下部にモデル名と+ボタンが出てくるので+ボタンを押してください。

Add New Modelという画面に遷移するのでそこで、LM Studioを選択してください

Configure Model画面に遷移したら今回ダウンロードしたモデルであるCodeLlama-7bを選択してください。
これで準備は完了です！

ローカルサーバーなので、色々応用が利きそうです！
性能は既存の大規模モデルにはかないませんが、無料でかつ安全であることを考えれば十分だと思います。