何番煎じかわからないけれど、Windows上のPython (Anaconda/Miniconda) で Intel MKL Fatal ERROR: Cannot load mkl_intel_thread.dll で自分も詰まって、色々調査して解決したので、自分の思うベストソリューションをまとめてみる。

##1. まず、どのdllが読み込まれているかを確認する

Anaconda PromptやPowershellなどで、where.exe mkl_intel_thread.dll を実行するとどのdllが読み込まれているかがわかる。

> where.exe mkl_intel_thread.dll

C:\Miniconda3\envs\mkl_test\Library\bin\mkl_intel_thread.dll

# メモ: Powershellで実行する場合は、where じゃなくて必ず where.exe !

ここでAnacondaやMinicondaでインストールされている以外のdllが表示されているときは、間違いなくバージョンのミスマッチでうまくいかないので、削除するか別のフォルダに移動する。（ちなみに手動でIntelのサイトから最新バージョンのMKLを入れている場合も、一旦Pathのフォルダから消したほうが良い。自分はここでハマッた。）

なお、conda activate xxx を行うと where.exe の表示も変わるので、condaで独自環境を作っている場合は先にactivateしてから実行すべき。

##2. dllを整理してもうまく行かなかったら、新規に環境を作る

1.の手順で、余計なdllを削除して再度実行してもうまく行かない場合は、新規環境を作るのが良い。例えばPython3.6.5で環境を新規に作る場合は以下。mkl_testのところは好きな名前でOK。

conda create -n mkl_test python=3.6.5
conda activate mkl_test

# NOTE: Anaconda PromptではなくPowershellで最初にactivateを行うときは、
#   `conda init powershell` してPowershellの再起動が必要。

ただしこの create のとき、いつものように最後にanacondaを入れると、デフォルトのnumpyとかscipyとかが入ってしまうので、入れるべきではない。あくまでMKLから先にインストールして、そこから自分の必要なライブラリをどんどん追加していく。

MKLのバージョンについては、自分は2019.4ではうまく行かず、2019.1や2018.0.3ではうまくいった。

conda install mkl=2019.1

ここから、必要なライブラリを追加していく。

conda install numpy scipy
conda install -c pytorch pytorch=0.4.1
# などなど

そして最終的に where.exe mkl_intel_thread.dll でdllを確認して、今回作った環境のenvs以下のdllのみが表示されているのが正しい。

> where.exe mkl_intel_thread.dll

C:\Miniconda3\envs\mkl_test\Library\bin\mkl_intel_thread.dll

この状態でもう一度 import numpy などを実行すれば、多分うまくいく。