2
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【簡単】DeepSeek R1 をGPUなしでUbuntu で ローカルで使う CPUのみ

Posted at

話題のDeepSeek

ブラウザ版とAndroid版のを普段から使ってきていたが,
なんせ中国の会社なので突然サービス終了したりするかもっと思ったので(根拠ない),
ローカルで動かしてみたかった.
(追記;)DeepSeekが流行りだして、アプリ版もブラウザ版も少し不安定なタイミングも

※当記事はUbuntu用です. Windows版は以下の記事をご覧ください

さて
今回の環境は 独立GPUなしで

  • Ubuntu 22.04.5 LTS x86_64
  • i5 4570 (4 core)
  • 8GB ram
  • デスクトップ(NEC mate)

libfuse2 をインストール

こいつが何をしてるのかは知りません。

sudo apt install libfuse2

LM studioをインストール.

LM studioをインストール.いろんな
Locall LLMが動かせるやつです.

サイトからAppImageをダウンロードしたら、お決まりのコマンドを。

cd /Downloads
chmod u+x LM-Studio-0.3.8-4-x64.AppImage

そしてとりあえずLM studio を起動

.\LM-Studio-0.3.8-4-x64.AppImage

image.png

適当なモデルを選んでダウンロード

Screencast from 2025年01月27日 23時35分17秒.gif

(これはCPUなしでも動く軽めのモデル(distill)です)
7Bとかがおすすめです。

ダウンロードが完了したら

Load Modelってのをクリック

image.png

いざ会話開始

Screenshot from 2025-01-27 23-41-46.png

できました

ネットなしでも動くとちょっと感動ですね.

2
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?