原因
キーボードがJIS配列でもUS配列として認識されてしまうため、[の位置のキーを]と認識されています。
解決方法
機械に合わせる
US配列の[の位置のキーを押せばよいので、JIS配列では^@を入力します。
機械を合わせる
v0.33以降
IdeaVIM v0.33からキーの割り当て方法が変わり、次のいずれかのファイルにキーマップを設定します。
更にv0.35から~/.vimrcと~/_vimrcは使われなくなりました。
~/.ideavimrc~/_ideavimrc~/.vimrc~/_vimrc
macのJIS配列キーボードは¥で円記号、Option+¥でバックスラッシュが入力されて不便なので、ついでに入れ替えてしまいます。
~/.ideavimrc
inoremap <c-]> <esc>
inoremap ¥ \
inoremap \ ¥
参考ページ
v0.33未満
Settings -> Keymap -> Editor Actions -> Escapeに^[を割り当てます。