タイトルの通り、JMH Gradle Plugin（ここではme.champeau.gradle.jmh）は、少なくとも0.5.2時点ではWindows 10で正常に動作しません。
1度ベンチマークの実行を始めると、中断してもプロセスが死なず、それのせいで実行ファイルがロックされて再ビルドが通らないなどの異常な動作が生じます。
自分の環境では、gradle jmh --no-daemonとして、--no-daemonフラグ付きで実行すればこの症状は抑制できました。
その他詳しい情報に関しては下記を参照して下さい（対応策の出展もこちらです）。