0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ローカルLLM用に省スペースPCへ2枚目のグラボを追加してみる

0
Posted at

はじめに

ローカルでLLMを動かす人は大抵VRAM不足問題を抱えていると思いますが、ネットで見かけた情報によれば、グラボを増設すれば既存グラボ分と合わせてVRAMを合算して使うことも可能なようです。日々ローカルLLMで遊んでいる筆者のグラボはVRAMが2GBしかないので物足りなさを感じています。節約しながらグラボ追加に挑戦してみます。

検証環境と手順

今回使用するPC環境は、いつもの通りこちらとなります。Ivy Bridgeおじさん代表として頑張ります。

  • 機種: ThinkCentre M82 Small
  • 購入費用: 約10,500円(2021年の年末にジャンクで購入)
  • 搭載済みグラボ: NVIDIA GeForce GT 1030 GDDR5 2GB
  • 拡張ボードのサイズ: ロープロファイル
  • 電源容量: 240W

追加するグラボはこちらです。自宅で余っていたものです。古いにもかかわらずOllamaが動くという海外動画を見かけたので、ローカルLLMのパフォーマンスに何らかの効果があるはずです。

  • NVIDIA NVS 510
  • 購入費用: 約3,000円(2025年5月頃に中古で購入)
項目 追加グラボ 既存グラボ
型番 NVIDIA NVS 510 NVIDIA GeForce GT 1030
GPU世代 Kepler Pascal
CUDAコア数 192 384
VRAM 2GB DDR3 2GB GDDR5
メモリ帯域幅 28.5 GB/s 48 GB/s
消費電力 35W 30W

そして今回の肝となるケーブルがこちら。Amazonで約1,000円です。グラボ用のPCIe x16スロットにはGT 1030が挿さっていて、PCIe x1スロットしか空いていないので変換ケーブルが必要となります(パフォーマンスは落ちます)。
PCIe変換ケーブル

PCIe x1スロットは、下図の黒くて短いスロットです。なお白いファンを搭載しているのが、既存のグラボです。
PCIe x1スロット

Amazonからは紙袋で届いたので、輸送中に壊れていないか心配で、テスターで導通確認します。それから、構造的に弱そうな部分や絶縁したい箇所にホットボンドを塗ります。そしてショートが怖いので、ケーブル購入時に付属していた袋を利用してグラボを包みます。
2GPU

しかしグラボは筐体の中に収まらず…。結局ケーブルを筐体の外に引き出し、今はやりの外付けGPUの爆誕です。これでも動きさえすれば良いのです。
グラボの内部格納断念
eGPU

結果

OS上は両方のグラボが認識されますが、デバイスマネージャーでは両方ともエラー(コード43)となります。
デバイスマネージャー
NVS 510のデバイスマネージャーでのエラー
GT 1030のデバイスマネージャーでのエラー

GPU-Zにおいても、両方のグラボの情報(例:メモリサイズ)が正しく表示されません。
NVS 510のGPU-Zでのエラー
GT 1030のGPU-Zでのエラー

また、nvidia-smiコマンドは戻り値を返しません。
nvidia-smi

原因を切り分ける環境もなく、ちょっとお手上げです。
※ 同じグラボで揃えた方が良かったかもしれませんし、電源容量不足かもしれませんし、機材が古すぎるからかもしれません。

さいごに

一般論として複数グラボの搭載は可能という認識ですが、今回の構成では実現困難と思われます。残念ですが、元の構成に戻します。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?