日本語変換中のエンターキーの押下はブラウザごとに実装が違うそうです。
http://d.hatena.ne.jp/end0tknr/20130808/1375953351
(網羅的な情報多謝)
ユーザーエージェントで分けるのは嫌なので下記のようにしました。
# キーダウンイベント
keydowned: (event)->
@downedKey = event.keyCode
# Firefoxでは@downedKeyが日本語変換直前のキーコード
# Chrome等では229が入ります。
# キーアップイベント
keyupped: (event)->
# enter押下でかつ日本語入力ではない
if event.keyCode == 13 && (@downedKey == event.keyCode)
# ...やりたい処理を書くのだ
@downedKey = null