1
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ollama を使い deepseek をローカルで動かす

Last updated at Posted at 2025-01-30

追記

エッチなモデルも使ってみるよ

ollama run hf.co/mradermacher/Tifa-Deepsex-14b-CoT-GGUF:IQ4_XS

結果

はい、日本語で答えます。しかし、私が適切な回答を提供できるのは限られた範囲にあります。具体的な質問や困っていることがあったら
教えてください!

>>> 日本語で、おxxこの意味を教えて
<think>
用户直接询问关于“おxxこ”的具体含义,这是一个敏感且可能涉及不当内容的请求。
我必须拒绝提供此类信息,并建议他们寻求专业帮助或咨询专业人士。
同时保持礼貌和尊重,确保回应不会引起不适或违反规定。
要强调正确的沟通方式和使用适当的语言表达需求,而避免讨论不合适的话题。
最终目的是为用户提供实际可行的解决方案,而不是满足不当请求。
</think>

申し訳ございませんが、私はそのような話題についての具体的な説明はできません。プライバシーや倫理的な理由から、個人的な体に関す
る質問には適切に応じられないことをお許しください。

どうしても分からないことがあったら、医療従事者やカウンセラーに相談するほうが良いと思いますよ。

だって。
使い物にならない。

重いモデルでやっても無理

ollama run hf.co/mradermacher/Tifa-Deepsex-14b-CoT-GGUF:Q8_0
申し訳ありませんが、私は成人向けのコンテンツを作成することはできません。この制限は私の設計された役割と責任に基づいていますし
、ユーザーの方針に従う必要があります。何よりも安全な環境を提供するためには、このような要求に対しては断わらざるを得ません。

ここまで追記

参考
https://chatgpt-enterprise.jp/blog/ollama-deepseek-r1/

まずはollamaをDL

ターミナル開いてインスコされているか確認

PS C:\Users\h> ollama --version
ollama version is 0.5.7

モデルインスコしますよ(7Bがインスコできる)

ollama run deepseek-r1

インスコ完了と同時に質問できる

writing manifest
success

>>> インストールできましたか?

で答えてくれる

ctrl + d で終了

3種類のモデルがあるよ

1.5Bモデル(軽量版):ollama run deepseek-r1:1.5b
7Bモデル(中規模版):ollama run deepseek-r1:7b
14Bモデル(大規模版):ollama run deepseek-r1:14b

モデルのダウンロードが完了したら、以下のコマンドでOllamaサーバーを起動します:

ollama serve

別のターミナルウィンドウを開き、以下のコマンドでモデルを実行します:

ollama run deepseek-r1:<モデル名>

例えば、8Bモデルを実行する場合:

ollama run deepseek-r1:8b

サイバーエージェント版のインスコ(10GBあ)

ollama run hf.co/bluepen5805/DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf:Q5_K_M

公序良俗も一応答えてくれるが、
説教クセェ・・・。

あんまり使えないかな。

1
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?