WindowsでGPGPU (CUDA) するときに余計なGPUメモリの消費を削減するためのTips

GPU使用量のモニタリング

• GPU-Z (by TechPowerUp)
  • メモリ使用量やGPU load，温度などをリアルタイムに監視できる．
• ProcessExplorer (by MS)
  • どのプロセスがどれだけGPUメモリを使用しているかを知ることができる．
  • デフォルト設定では非表示になっている．表示するためには，「プロセス一覧表示欄のヘッダ部を右クリック」 → 「Select columns...」 → 「Process GPUタブ」を開き，全部にチェックをいれる．
• nvidia-smiコマンド
  • ドライバと共に標準でインストールされる．デバイス情報を表示してくれるが，まともに動いていないように見える．．．

一般アプリによるGPU資源の浪費を削減する

通常，知らず知らずのうちに100MB以上のGPUメモリが様々なアプリによって浪費されている．例えばメモリが2GBしかないGPUであれば，この場合5%以上が無駄になっていることになり，無視することはできない．
具体的な無駄削減手順としては，ProcessExplorerを使ってアプリを特定し，個別にGPUの使用を無効化することだ．以下に，そのようなアプリの例とGPU無効化方法を挙げる．

• Firefox
  • 「オプション」→「詳細」→「ブラウズ」→「ハードウェアアクセラレーション機能を使用する」のチェックを外す．
• Google Chrome
  • 起動オプションとして --disable-gpu を付加する．
• Atomエディタ，デスクトップ用Slack，Visual Studio Code（などのElectron系アプリ）
  • Chromeと同様に --disable-gpu を付加すれば無効化できる場合がある．
  • AtomをGPU無効で起動するには，C:\Users\username\AppData\Local\atom\bin\atom.cmd --disable-gpu を呼ぶ．ただしこの起動方法では自動更新が無効になる．
  • Slackのデスクトップ版は，スタートアップの起動ショートカットが C:\Users\username\AppData\Local\slack\Update.exe --processStart slack.exe -a"--startup" となっているので， C:\Users\username\AppData\Local\slack\Update.exe --processStart slack.exe -a"--startup --disable-gpu" にすると，GPU無効化モードで起動される．
• Microsoft Outlook
  • 「オプション」→「メール」→「メッセージの作成」→「編集オプション」→「詳細設定」→「表示」→「ハードウェア グラフィック アクセラレータを無効にする」のチェックをつける．