TensorRTをサポートしていないGeforceがある？
VC++でWindowsアプリを作ろうとしているのですが、ONNX-CUDAが思っていたよりも遅かったのでTensorRTを利用しようと思っています。
ただツイッターで検索してみると、どうも最近のTensorRTではサポートされていないGeforceがあるとかで、なんでもGeforce1080はサポートされていないとか。
TensorRTは処理速度の面でONNX-CUDAより有望ですが、一般ユーザ向けアプリを作りたいと思っているので、利用できるユーザーが少ないのは悲しい。
最近のTensorRTがいつのGeforceをサポートしているのか確認しました。
NVIDIA TensorRTのページで確認する
2025/1/5時点では、次のように書かれています。
The following table lists NVIDIA hardware and the precision modes each hardware supports. TensorRT has been compiled to support all NVIDIA hardware with SM 7.5 or higher capability. The table also lists the availability of DLA on this hardware. Refer to the following tables for the specifics.
CUDA Compute Capability が7.5以上であればTensorRTを利用できるよ、ということのようです。
じゃあ、7.5っていうのは、一体どのGPUですか？
ここからCUDA-Enabled GeForce and TITAN Productsというところを開きます。
- Geforce 2060
、1650あたりが下限の7.5でTensorRT利用可能（1650はCUDAはともかくtensorrtは使えない気がするので消しておきます） - Geforce 1080など、10x0系は6.1で最近のTensorRTは使えない
- デスクトップ用チップとノート用チップで差はない
ということのようです。RTXと言い出した頃ならサポートしているということでしょうか。（TensorRTだから？）
ちょっとTensorRTを試してみたい！という方は、この表も参考にしてみてはいかがでしょうか。
ちなみにデータセンターは次のようになってます。
それにしても
2025/1/7に開催されるCES2025でNVIDIAもいろいろ発表すると思うので、もしかするとすぐに古新聞になるかもしれません。（あまりに変わってそうなら更新します）