DeepSeek-R1の動的量子化モデルをローカルPCで動かして、AI小説を書くまで。
DeepSeek-R1のフルモデルを動的量子化してサイズを大幅に縮小したモデルをローカルPC上で動かしてみた。それでも、Q2_K_XL GGUFモデルでサイズは200GBを超える。 更にこのモデ...
0
2
Comment0
3 search resultsShowing 1~3 results
Stocked
You need to log-in
RustとPythonで使える日本語GPT2モデルを公開
Rust言語からでも使える日本語GPT2モデルをHuggingfaceのTransformersモデルハブに公開した。 Rinna社が日本語GPTモデルを公開してるが、Rustでは使えない。 そ...
0
0
Comment0
難しくないRustで画像表示そして画像認識(Rust+PyTorch)
Rust言語は難しいと思われているが、実際使ってみると実用的な優れた言語だと思う。 初心者殺しに会わないように、簡単にWindows表示ができて、描画、画像表示、画像認識ができるプログラムを紹介...
7
13
Comment0
3 search resultsShowing 1~3 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles