漢なら OpenCL ですね!

しかしときには比較用に CUDA も使いたくなったり, CUDA コードを OpenCL に移植してみたいときがありますね!

でもちょっと試してみたいときとか CUDA SDK のインストールするの面倒ですね!
(とはいえ, nvcc を呼び出したり NVRTC を使いたいときは結局は CUDA Toolkit が必要でした. 特に Windows 環境)

OpenCL の場合は clew https://github.com/OpenCLWrangler/clew がありますが, CUDA にも CUEW で CUDA SDK いらずで CUDA program をコンパイルできるライブラリがあります.

本家はいくらか古いのと, cuDNN も PR 上がってますがマージされていないので,
CUDA 12.1, cuDNN 8.0 に対応したのをアップロードしました.

master をお使いください.

途中までですが, CUDA runtime API も対応中です...

まとめ

CCLCudaAPI と合わせて OpenCL, CUDA どちらも同じような関数で使えるようにしてみたいですね!