/opt/pgi/以下に複数のバージョンをインストールした場合はこんな感じです。
$ls /opt/pgi/*/linux86-64/201*/cuda/
こんな感じでずらっと出てきます（時系列で手でソートしています）。
/opt/pgi/18.1/linux86-64/2018/cuda/:
8.0 9.0 9.1
/opt/pgi/18.3/linux86-64/2018/cuda/:
8.0 9.0 9.1
/opt/pgi/18.4/linux86-64/2018/cuda/:
8.0 9.0 9.1
/opt/pgi/18.5/linux86-64/2018/cuda/:
8.0 9.0 9.1 9.2
/opt/pgi/18.7/linux86-64/2018/cuda/:
9.1 9.2
/opt/pgi/18.10/linux86-64/2018/cuda/:
10.0 9.1 9.2
/opt/pgi/19.1/linux86-64/2019/cuda/:
10.0 9.2
/opt/pgi/19.3/linux86-64/2019/cuda/:
10.0 10.1 9.2
/opt/pgi/19.4/linux86-64/2019/cuda/:
10.0 10.1 9.2
/opt/pgi/19.5/linux86-64/2019/cuda/:
10.0 10.1 9.2
どのタイミングで含まれて外れるのかわかります。
どのバージョンが使われるかは、コンパイルオプションで陽に指定するのが一番だと思いますが、デフォルトでなにが選択されるかは、CUDAドライバのバージョンによって決まります。nvidia-smiかpgaccelinfoでドライバのバージョンを調べておくことが必要です。