備忘録として。

実行環境

GPU:RTX2080
tensoflow:2.0.0
CUDA:10.1
cuDNN:7.6.5.32

注意点として、下記の対応表だとtensoflowは2.1.0を使えとのことなんですが、model.pyを修正した上でdemoプログラムを走らせてみると「Failed to get convolution algorithm. This is probably because cuDNN failed to initialize, so try to see if a warning log message was printed above.」とのエラーがでました。試しにtensoflowを2.0.0にしてみたら、エラーが出ずに実行できました。
https://www.tensorflow.org/install/source?hl=ja#gpu_support_2

model.pyの修正

エラー解決には下記を参考にしてmodel.pyを編集しました。
https://github.com/matterport/Mask_RCNN/issues/1797
https://github.com/matterport/Mask_RCNN/pull/1817/files