はじめに
2021になってLIFT(Learned Invariant Feature Transform)1をRTX2080Tiを積んだWindows10（とServer 2019）上のPython 3.8.5で動かしてみようと思った所，既に開発終了なTheanoで実装されていたため(?)に色々と躓いたので，動作までのメモ．
色んなCUDAバージョンで試したが，最終的にCUDA10.2 + cuDNN7.6.5は動作を確認．
なので，NVIDIA公式から落として入れたのは
- Base Installer
cuda_10.2.89_441.22_win10.exe- Patch 2 (Released Nov 17, 2020)
cuda_10.2.2_win10.exe- cuDNN v7.6.5 (November 18th, 2019), for CUDA 10.2
cudnn-10.2-windows10-x64-v7.6.5.32.zip
また，SIFT用ラッパのビルドに必要な
- OpenCV – 4.5.1
opencv-4.5.1-vc14_vc15.exe- Visual Studio Community 2019
vs_community__501120973.1616119645.exe
LIFT
公開されているコードリポジトリはコチラ↓
論文はココなど↓
Theano環境の構築
色々躓いた中でのメモを形にしただけなので，必要な情報だけ読み取って下さいm(_ _)m
なお，検索しても古い別環境を用意するか諦めるかのような内容や，手元の環境では（それのみでは）うまくいかない内容しか見当たらなかったです．
また，どれだけ探しても見付からない情報も多々ありました…
情報例
https://github.com/Theano/Theano/issues/5856
https://github.com/Theano/Theano/issues/6063
https://github.com/Theano/Theano/issues/6556
https://github.com/Theano/Theano/issues/6681
https://github.com/Theano/libgpuarray/issues/402
https://github.com/Theano/libgpuarray/issues/445
https://github.com/Theano/libgpuarray/issues/562
https://github.com/Theano/libgpuarray/issues/587
https://github.com/sevensgd/Install-Theano-with-GPU-support-on-Windows-10
https://groups.google.com/g/theano-users/c/6hWfVPMEzHs
https://groups.google.com/g/theano-users/c/GQJ8yojgJo4
https://theano-users.narkive.com/xC8ZIw3F/can-not-import-theano-gpuarrayexception-could-not-load-nvrtc64-70-dll
https://github.com/aigamedev/scikit-neuralnetwork/issues/235
http://barus.hatenadiary.jp/entry/2017/11/05/171730
https://teratail.com/questions/56469
https://stackoverflow.com/questions/48838386/g-not-available-if-using-conda-conda-install-m2w64-toolchain
https://stackoverflow.com/questions/46036919/pygpu-missing-blas-library-and-other-test-errors
https://stackoverflow.com/questions/39297995/getting-pygpu-was-configured-but-could-not-be-imported-error-while-trying-with
https://stackoverflow.com/questions/38215120/dll-load-failed-the-specified-module-could-not-be-found-for-pygpu-libgpuarray
https://www.programmersought.com/article/32836851797/
https://www.programmersought.com/article/21046187280/
https://www.programmersought.com/article/5003679709/
https://machinelearningmastery.com/introduction-python-deep-learning-library-theano/
https://www.codetd.com/en/article/7405218
https://docs.nvidia.com/deeplearning/frameworks/theano-release-notes/rel_17.10.html
http://deeplearning.net/はもう見れない．
（見たこともないので，どんな情報があったのかもわからないですが．関係ないけど，高く売れそうなドメインですね…）
公式のディスコンアナウンスはコチラ
https://groups.google.com/g/theano-users/c/7Poq8BZutbY
requirements通りのライブラリインストール
まず，リポジトリのrequirementsにある通りにライブラリを入れてみる．
なお，動かしたい環境がPyTorchなどを動かしている既存の環境だったので，
このような仮想環境
>conda list
# packages in environment at xxx\[ENV NAME]:
#
# Name Version Build Channel
blas 1.0 mkl
ca-certificates 2021.1.19 haa95532_0
certifi 2020.12.5 py38haa95532_0
cudatoolkit 11.0.221 h74a9793_0
cycler 0.10.0 py_2 conda-forge
freeglut 3.2.1 h0e60522_0 conda-forge
freetype 2.10.4 h546665d_0 conda-forge
icc_rt 2019.0.0 h0cc432a_1
icu 67.1 h33f27b4_0 conda-forge
intel-openmp 2020.3 h57928b3_311 conda-forge
jasper 2.0.14 hdc05fd1_1 conda-forge
joblib 1.0.0 pyhd3eb1b0_0
jpeg 9d h8ffe710_0 conda-forge
kiwisolver 1.3.1 py38hbd9d945_0 conda-forge
libblas 3.8.0 21_mkl conda-forge
libcblas 3.8.0 21_mkl conda-forge
libclang 10.0.1 default_hf44288c_1 conda-forge
liblapack 3.8.0 21_mkl conda-forge
liblapacke 3.8.0 21_mkl conda-forge
libopencv 4.5.0 py38_4 conda-forge
libpng 1.6.37 h1d00b33_2 conda-forge
libtiff 4.2.0 hc10be44_0 conda-forge
libuv 1.40.0 he774522_0
libwebp-base 1.1.0 h8ffe710_3 conda-forge
lz4-c 1.9.2 h62dcd97_2 conda-forge
matplotlib 3.3.3 py38haa244fe_0 conda-forge
matplotlib-base 3.3.3 py38h34ddff4_0 conda-forge
mkl 2020.4 hb70f87d_311 conda-forge
mkl-service 2.3.0 py38h196d8e1_0
ninja 1.10.2 py38h6d14046_0
numpy 1.19.4 py38h0cc643e_1 conda-forge
olefile 0.46 py_0
openssl 1.1.1i h2bbff1b_0
pandas 1.2.0 py38hf11a4ad_0
pillow 8.0.1 py38h4fa10fc_0
pip 20.3.3 py38haa95532_0
py-opencv 4.5.0 py38hc5df569_4 conda-forge
pyparsing 2.4.7 pyh9f0ad1d_0 conda-forge
pyqt 5.12.3 py38haa244fe_6 conda-forge
pyqt-impl 5.12.3 py38h885f38d_6 conda-forge
pyqt5-sip 4.19.18 py38h885f38d_6 conda-forge
pyqtchart 5.12 py38h885f38d_6 conda-forge
pyqtwebengine 5.12.1 py38h885f38d_6 conda-forge
python 3.8.5 h5fd99cc_1
python-dateutil 2.8.1 py_0 conda-forge
python_abi 3.8 1_cp38 conda-forge
pytorch 1.7.1 py3.8_cuda110_cudnn8_0 pytorch
pytz 2020.5 pyhd3eb1b0_0
qt 5.12.9 hb2cf2c5_0 conda-forge
scikit-learn 0.23.2 py38h47e9c7a_0
scipy 1.5.2 py38h14eb087_0
setuptools 51.0.0 py38haa95532_2
six 1.15.0 py38haa95532_0
sqlite 3.33.0 h2a8f88b_0
threadpoolctl 2.1.0 pyh5ca1d4c_0
tk 8.6.10 he774522_0
torchaudio 0.7.2 py38 pytorch
torchvision 0.2.2 py_3 pytorch
tornado 6.1 py38h294d835_0 conda-forge
tqdm 4.55.1 pyhd3eb1b0_0
typing_extensions 3.7.4.3 py_0
vc 14.2 h21ff451_1
vs2015_runtime 14.27.29016 h5e58377_2
wheel 0.36.2 pyhd3eb1b0_0
wincertstore 0.2 py38_0
xz 5.2.5 h62dcd97_1 conda-forge
zlib 1.2.11 h62dcd97_4
zstd 1.4.5 h1f3a1b7_2 conda-forge
イチから構築ではなく，だいたい
python 3.8.5
pytorch 1.7.1
py-opencv 4.5.0
などが元々入っている所がスタート地点．
flufl.lock
https://github.com/Theano/Theano/archive/master.zip
https://github.com/Lasagne/Lasagne/archive/master.zip
numpy
parse
h5py
scipy
を個別に入れていった．
実行するコマンドは
conda install -c conda-forge flufl.lock
pip install https://github.com/Lasagne/Lasagne/archive/master.zip
pip install https://github.com/Theano/Theano/archive/master.zip
conda install numpy
conda install -c conda-forge parse
conda install h5py
conda install scipy
（ただし，numpyとscipyは元々入っていたので手元では未実行）
これで
こんな仮想環境
>conda list
# packages in environment at xxx\[ENV NAME]:
#
# Name Version Build Channel
atpublic 1.0 py_0 conda-forge
blas 1.0 mkl
ca-certificates 2021.1.19 haa95532_1
certifi 2020.12.5 py38haa95532_0
cudatoolkit 11.0.221 h74a9793_0
cycler 0.10.0 py_2 conda-forge
flufl.lock 3.2 py_0 conda-forge
freeglut 3.2.1 h0e60522_0 conda-forge
freetype 2.10.4 h546665d_0 conda-forge
h5py 2.10.0 py38h5e291fa_0
hdf5 1.10.4 h7ebc959_0
icc_rt 2019.0.0 h0cc432a_1
icu 67.1 h33f27b4_0 conda-forge
intel-openmp 2020.3 h57928b3_311 conda-forge
jasper 2.0.14 hdc05fd1_1 conda-forge
joblib 1.0.0 pyhd3eb1b0_0
jpeg 9d h8ffe710_0 conda-forge
kiwisolver 1.3.1 py38hbd9d945_0 conda-forge
lasagne 0.2.dev1 pypi_0 pypi
libblas 3.8.0 21_mkl conda-forge
libcblas 3.8.0 21_mkl conda-forge
libclang 10.0.1 default_hf44288c_1 conda-forge
liblapack 3.8.0 21_mkl conda-forge
liblapacke 3.8.0 21_mkl conda-forge
libopencv 4.5.0 py38_4 conda-forge
libpng 1.6.37 h1d00b33_2 conda-forge
libtiff 4.2.0 hc10be44_0 conda-forge
libuv 1.40.0 he774522_0
libwebp-base 1.1.0 h8ffe710_3 conda-forge
lz4-c 1.9.2 h62dcd97_2 conda-forge
matplotlib 3.3.3 py38haa244fe_0 conda-forge
matplotlib-base 3.3.3 py38h34ddff4_0 conda-forge
mkl 2020.4 hb70f87d_311 conda-forge
mkl-service 2.3.0 py38h196d8e1_0
ninja 1.10.2 py38h6d14046_0
numpy 1.19.4 py38h0cc643e_1 conda-forge
olefile 0.46 py_0
openssl 1.1.1j h2bbff1b_0
pandas 1.2.0 py38hf11a4ad_0
parse 1.19.0 pyh44b312d_0 conda-forge
pillow 8.0.1 py38h4fa10fc_0
pip 20.3.3 py38haa95532_0
py-opencv 4.5.0 py38hc5df569_4 conda-forge
pyparsing 2.4.7 pyh9f0ad1d_0 conda-forge
pyqt 5.12.3 py38haa244fe_6 conda-forge
pyqt-impl 5.12.3 py38h885f38d_6 conda-forge
pyqt5-sip 4.19.18 py38h885f38d_6 conda-forge
pyqtchart 5.12 py38h885f38d_6 conda-forge
pyqtwebengine 5.12.1 py38h885f38d_6 conda-forge
pyreadline 2.1 py38_1
python 3.8.5 h5fd99cc_1
python-dateutil 2.8.1 py_0 conda-forge
python_abi 3.8 1_cp38 conda-forge
pytorch 1.7.1 py3.8_cuda110_cudnn8_0 pytorch
pytz 2020.5 pyhd3eb1b0_0
qt 5.12.9 hb2cf2c5_0 conda-forge
scikit-learn 0.23.2 py38h47e9c7a_0
scipy 1.5.2 py38h14eb087_0
setuptools 51.0.0 py38haa95532_2
six 1.15.0 py38haa95532_0
sqlite 3.33.0 h2a8f88b_0
theano 1.0.5+unknown pypi_0 pypi
threadpoolctl 2.1.0 pyh5ca1d4c_0
tk 8.6.10 he774522_0
torchaudio 0.7.2 py38 pytorch
torchvision 0.2.2 py_3 pytorch
tornado 6.1 py38h294d835_0 conda-forge
tqdm 4.55.1 pyhd3eb1b0_0
typing_extensions 3.7.4.3 py_0
vc 14.2 h21ff451_1
vs2015_runtime 14.27.29016 h5e58377_2
wheel 0.36.2 pyhd3eb1b0_0
wincertstore 0.2 py38_0
xz 5.2.5 h62dcd97_1 conda-forge
zlib 1.2.11 h62dcd97_4
zstd 1.4.5 h1f3a1b7_2 conda-forge
gpuarray.dllのbuild
requirementsを満たしたこの状態で試しに
import theano
してみると，
>>> import theano
WARNING (theano.configdefaults): g++ not available, if using conda: `conda install m2w64-toolchain`
xxx\[ENV NAME]\lib\site-packages\theano\configdefaults.py:560: UserWarning: DeprecationWarning: there is no c++ compiler.This is deprecated and with Theano 0.11 a c++ compiler will be mandatory
warnings.warn("DeprecationWarning: there is no c++ compiler."
WARNING (theano.configdefaults): g++ not detected ! Theano will be unable to execute optimized C-implementations (for both CPU and GPU) and will default to Python implementations. Performance will be severely degraded. To remove this warning, set Theano flags cxx to an empty string.
WARNING (theano.tensor.blas): Using NumPy C-API based implementation for BLAS functions.
Traceback (most recent call last):
File "yyy.py", line 717, in <module>
from aaa import bbb
File "zzz.py", line 16, in <module>
import h5py
File "xxx\[ENV NAME]\lib\site-packages\h5py\__init__.py", line 26, in <module>
from . import _errors
ImportError: DLL load failed while importing _errors: 指定されたモジュールが見つかりません。
となり，動かない．
色々調べてみるとgpuarray.dllが駄目らしいので，自前で準備する．
プロジェクト作成
適当な作業用ディレクトリにて
git clone https://github.com/Theano/libgpuarray.git
もしくは
https://github.com/Theano/libgpuarray
からダウンロードし，
cd libgpuarray
mkdir build
cd build
cmake .. -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 16"
元々入ってたのがVisual Studio 2019だったので"Visual Studio 16"ですが，
環境に応じて
cmake .. -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 16"
cmake .. -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 15 Win64"
cmake .. -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 14 Win64"
（VS2019からはWin64が要らない模様）
併存するCUDAバージョンへの対応
既存コードから出来上がるgpuarray.dllは，そのままだと強制的に環境内の最新のcudaを参照してしまう．
（ビルド時ではなく，実行時に最新のものを参照しようとする．）
CUDA 11系では動いてくれないので，冒頭の通り10系を参照してもらわないと困る．
検索しても全く情報が出てこなかった（新しいのを消そう，はあった）が，コードを漁った所，loaders\libcuda.c内のcuDriverGetVersionで環境パス内のnvcuda.dllを探してきて必要ライブラリをそのバージョンに合わせてしまう模様．
コレはC:\Windows\System32に居るので，読みに行かなくするのは大変．
そのため，gpuarray_buffer_cuda.c内の176行目
/* Let's try to load a nvrtc corresponding to detected CUDA version. */
の上か下辺りで
major = 10;
minor = 2;
のように強制上書きしてやる．
（他ファイル含め色んな所で上書きしてもいいが，ここさえ変えれば引き回されるはず．）
当然，これ以前のCUDAで動かすなら適宜その数値へ．
nvcuda.dllを探さないようにし，別手段で自動設定させるなどの対応方法も可能だが，対象が決まっているなら固定した方が楽．
ビルドや実行時に必要なライブラリのインストールおよびbuild
Pythonが絡むので，先の環境をActivateして仮想環境内で以下のようにビルドする．
このときまた色々要求されるため，先の環境にpygpuを入れておく．
また，先のWARNING内で言われているm2w64-toolchainやlibpythonも入れておく．
conda install -c conda-forge pygpu
conda install m2w64-toolchain
conda install libpython
この環境をActivateして仮想環境内で以下のようにビルドする．
MSBuild libgpuarray.sln /t:Rebuild /p:Configuration=Release
gpuarray.dllの置換
出来上がった
lib\Release\gpuarray.dll
を仮想環境内の既存のライブラリ
xxx\[ENV NAME]\Library\bin\gpuarray.dll
と置き換える．
（念の為，元のdllはgpuarray.dll.bakなどへリネームして残しておく．）
これでとりあえず
import theano
で怒られなくはなる．
CUDA用dllの置換
Theanoのサンプルコードとしてコチラ
http://may46onez.hatenablog.com/entry/2015/11/21/150621
の動作確認コードを利用して動くか試してみると，
pygpu.gpuarray.GpuArrayException: b'Could not load "nvrtc64_102.dll": \x8ew\x92\xe8\x82\xb3\x82\xea\x82\xbd\x83\x82\x83W\x83\x85\x81[\x83\x8b\x82\xaa\x8c\xa9\x82\xc2\x82\xa9\x82\xe8\x82\xdc\x82\xb9\x82\xf1\x81B\r\n'
と怒られるため，
xxx\[ENV NAME]\Library\bin\
へ
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin\nvrtc64_102_0.dll
をnvrtc64_102.dllとしてコピー．（_0を消す）
再度試すと今度は
pygpu.gpuarray.GpuArrayException: (b'Missing Blas library', 5)
と怒られるため，同様にcublas64_10.dllをcublas64_102.dllとしてコピー．（マイナーバージョンの2を足す）
これでDLL系はOKなので，ホームディレクトリに.theanorcを用意して実行すると正常に終わる．
.theanorcもしくは.theanorc.txtの例
#!sh
[global]
device = cuda
floatX = float32
[nvcc]
flags = -LC:\Users\[USER NAME]\Anaconda3\libs --machine=64
compiler_bindir = C:\Program Files (x86)\Microsoft Visual Studio\2019\Community\VC\Tools\MSVC\14.28.29910\bin\Hostx64\x64
fastmath = True
[dnn]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin
[cuda]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2
GPUを指定したはずでもUsed the cpuと出るが，
Looping 1000 times took 0.29122257232666016 seconds
Looping 1000 times took 9.404838800430298 seconds
前者がGPU指定，後者がCPU指定時の動作結果なので，これでTheano環境はおそらくOK．
LIFTを動作させる
Theanoが動くようになっても，そのままでは（Windowsなこともあり）動かず．
ココでも色々面倒でした…
Wrapper for SIFT
SIFT用のラッパを要するので，LIFTコード群のc-codeをビルドする．
（以下，環境変数のOPENCV_DIRにopencv\buildが通っている前提）
cd [LIFT PATH]\c-code\build
cmake .. -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 16"
MSBuild SIFT.sln /t:Rebuild /p:Configuration=Release
とすると，
[LIFT PATH]\c-code\sift.cpp(1008,3): error C2065: 'CV_StsBadArg': 定義されていな
い識別子です。 [[LIFT PATH]\c-code\build\SIFT.vcxproj]
と怒られる．
https://docs.opencv.org/3.4/d2/df8/group__core__c.html
を見ると-5らしいので，sift.hppの該当箇所を適当に
double *pfOutAngle = (double *)out_angle;
auto StsBadArg = -5;
if (image.empty() || image.depth() != CV_8U)
CV_Error(StsBadArg, "image is empty or has incorrect depth (!=CV_8U)");
// CV_Error(CV_StsBadArg, "image is empty or has incorrect depth (!=CV_8U)");
などと指定してしまう．
あと，関数を呼び出せないといけないので，sift.hppの頭辺りに
#ifdef _WINDLL
#define SIFT_API extern "C" __declspec(dllexport)
#else
#define SIFT_API extern "C"
#endif
を追記．
これでMSBuildし直すとwrapperが出来上がる．
DLLパスの指定（Winのみ）
\Utils\sift_tools.pyを
import platform
ps = platform.system()
if ps == "Darwin":
libSIFT = cdll.LoadLibrary("../c-code/libSIFT.dylib")
elif ps == "Windows":
libSIFT = cdll.LoadLibrary('../c-code/Release/SIFT.dll')
else:
libSIFT = cdll.LoadLibrary('../c-code/libSIFT.so')
（ビルド箇所によるので，DLLの相対パスは適宜変更）
これで動く．
その他の修正点
戻して試していないので不要な修正もあるかも知れないが，自分の環境用に以下のようにいくつか書き換えた．
-
\Utils\custom_types.py
def setupTrainの頭を
def setupTrain(self, param, setID):
import platform
ps = platform.system()
is_Windows = ps == "Windows"
if not os.path.exists(".locks"):
os.makedirs(".locks")
同self.volatile_tempの設定箇所を
if self.volatile_temp == '':
if is_Windows:
self.volatile_temp = "./scratch/" + "fararrow" + "/Temp"
else:
self.volatile_temp = "/scratch/" + os.getenv('USER') + "/Temp"
固定したけど，'USERNAME'なら取れると思う．
同様にテストの方も，\Utils\custom_types.pyのdef setupTestの頭を
def setupTest(self, param, testDataName):
import platform
ps = platform.system()
is_Windows = ps == "Windows"
こちらのself.volatile_tempの設定箇所も先と同様．
-
\Utils\solvers.py
time.clock()はPython3.3で無くなっているので，
def TestImage(pathconf, param, image, verbose=True, network_weights=None):
# start_time = time.clock()
start_time = time.process_time()
# ------------------------------------------------------------------------
# Create the Network
myNet = CreateNetwork4Image(pathconf, param, image, verbose=verbose)
# end_time = time.clock()
end_time = time.process_time()
compile_time = (end_time - start_time) * 1000.0
.
.
.
# ------------------------------------------------------------------------
# Create the Network
# start_time = time.clock()
start_time = time.process_time()
myNet = CreateNetwork(pathconf, param, test_data_in, test_data_in,
test_data_in)
# end_time = time.clock()
end_time = time.process_time()
compile_time = (end_time - start_time) * 1000.0
OpenCVのバージョン
本記事のようにOpenCV4.x環境でテストコードのcompute_descriptor.pyを動かす場合は，
内部関数のdraw_XYZS_to_imgに
if cv2.__version__[0] == '3':
という箇所があるので，4を足して
if cv2.__version__[0] == '3' or cv2.__version__[0] == '4':
にするとか，数値にして3以上にするかが必要．
余談
その他のメモです．
ちなみに本記事は，PyTorch，TensorFlow+Keras，Chainer, Caffe（←ちょっとだけ）は使っている（た）ものの，Theanoは触ったこともなかったため，他の人は躓かないような内容だった可能性もありますm(_ _)m
試した環境
ここまでは冒頭の通り，Conda環境を除くとCUDA10.2 + cuDNN7.6.5 + OpenCV4.5.1で構築した．
ただ，最初はCUDA10.1 + CUDNN7.6.0 + OpenCV4.2.0で試していたので，そちらの組み合わせも動作確認済み．
（OpenCVのインストーラはopencv-4.2.0-vc14_vc15.exe）
BLAS
当初は見付からないと怒られるDLLが何を意味するのかわからず，
https://stackoverflow.com/questions/45722188/tutorial-for-installing-numpy-with-openblas-on-windows
などを見ながらOpenBLASをビルドしたりなんやかんやしたけど，結果的には不要でした．
Theano設定ファイル
ちなみに動かない原因の特定中にVSやCUDAの色んなバージョンでの組み合わせを試したりしていたので，.theanorcはこんな感じで設定を切り替えながら実行していました．.theanorcもしくは.theanorc.txtの迷走例#!sh
[global]
#device = gpu
#device = cuda
device = cuda2
floatX = float32
mode = FAST_RUN
exception_verbosity=high
[lib]
#cnmem = 1
cnmem = 0.8
[nvcc]
#flags = C:\Users\[USER NAME]\Anaconda3\libs
flags = -LC:\Users\[USER NAME]\Anaconda3\libs --machine=64
#compiler_bindir = C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\bin
#compiler_bindir = C:\Program Files (x86)\Microsoft Visual Studio\2017\Community\VC\Tools\MSVC\14.16.27023\bin\Hostx64\x64
compiler_bindir = C:\Program Files (x86)\Microsoft Visual Studio\2019\Community\VC\Tools\MSVC\14.28.29910\bin\Hostx64\x64
# flags=-m32 # we have this hard coded for now
fastmath = True
[dnn9]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\bin
[dnn101]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin
[dnn]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin
[dnn110]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin
[dnn112]
enabled = True
include_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\include
library_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\lib\x64
base_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
bin_path = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin
[cuda92]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2
[cuda101]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1
[cuda]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2
[cuda110]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0
[cuda112]
root = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
[blas]
#ldflags =
#ldflags = -LC:\Lib\OpenBLAS_0.3.13\xianyi-OpenBLAS-d2b11c4 -lopenblas
#ldflags = -LC:\Lib\OpenBLAS -lopenblas
# ldflags = -lopenblas # placeholder for openblas support
[gpuarray]
#preallocate = 1
https://www.codeproject.com/Articles/1158306/Theano-Machine-Learning-on-a-GPU-on-Windows
もう少し新しいのは
https://gist.github.com/sachin-kmr/1e70262255dfa378288d19c9657950f9
など．
最新環境
CUDA11系，cuDNN8系は動作時のエラーがどうしても回避できなかったので，無理っぽい．
CUDA10.2 + cuDNN7.6.5であっても，RTX3080はimportだけで尋常じゃない時間がかかる上に最終的に
pygpu.gpuarray.GpuArrayException: (b'nvrtcCompileProgram: NVRTC_ERROR_INVALID_OPTION', 3)
になって無理っぽい．Ampere architectureでは動かないという事かもしれない．
LIFT動作結果
このように非常に苦労してどうにか動きそうになったので，compute_detector.py, compute_orientation.py, compute_descriptor.pyを繋げて特徴抽出してみました．
が…（↑の挙動不審なRTX3080でなく，動作させられたRTX2080Tiであっても）何度も行われるコンパイル部分のせいか非常に遅く，遅さに定評のある（当たり前なのですが）ASIFT(Affine-SIFT)のさらに70倍の計算時間がかかりました…
（よく情報が出てくるCUDA9.0やより前のcuDNNだと変わるのかも知れないし，各DLLのビルドオプションで変わるかも知れない．あと細かくは調べていないので，.theanorcをちゃんと設定したら変わるかも知れない．）
その上，低精度でした．
ハンドメイド系局所特徴や，より最近の学習系局所特徴と比べてみたかっただけなので，どんな結果でも構わないのですけどね(^^;
-
M. Kwang, E. Trulls, V. Lepetit, and P. Fua, "LIFT: Learned Invariant Feature Transform," ECCV 2016. ↩