はじめに
TwitterでOSSのgptモデルが公開されたと聞いて、気になったので早速自前のPCで利用してみたいと思います。
モデルのダウンロードをしながら、本記事を書き始めております(笑)
自分のPCでLLMを動かすのは初めてなので、ワクワクしています!
モデル性能のレビューではなく、初心者がインストールして使ってみる、という内容です。
使用するPCのスペック
- OS:Windows 11 Home (24H2)
- CPU:Intel(R) Core(TM) i5-14400F
- RAM:16GB
- GRAPHIC:GeForce RTX 4070
インストール手順
公式サイトにアクセスします。
https://lmstudio.ai/
Downloadボタンをクリックして、インストーラをダウンロードします。
インストーラがダウンロードできたら、起動してインストールします。
すべてのユーザーにインストールするかはお好みで。
インストール後にスクショしていないことに気付いたので、既にダウンロード済の旨の表示が出ていますが、初回は表示されません...
私の場合はGet Startedが押せなかったので、右上のSkipをクリックして進みました。
特に問題なくチャット画面が表示されたので、画面上側の「Select a model to load」をクリックします。
gpt-oss-20bをダウンロードする画面が出てくるので、「Download gpt-oss-20b」をクリックします。
ダウンロードが始まります。私の環境起因かもしれませんが、約10分かかりました。
約10秒でモデルが読み込まれて、チャットが可能になります。
「Hello!」と話しかけてみます!
動きました!!!短文のためか約2秒と、すぐに回答が得られました!
おわりに
自分のPCでgptが使える嬉しさと勢いで書いた記事のため、まとまりやオチもなく恐縮ですが、どなたかの参考になれば幸いです。
色々使ってみて、また用途や感想を書きたいと思います。
ご覧いただきありがとうございました!
参考文献
作業前に以下の記事を拝読しました。
LM Studio で gpt‑oss を試す