私はこのような設定をで無変換キーをプレフィックスキーとして利用しています。

(when (eq system-type 'windows-nt)
(defvar non-convert-map (make-keymap))
(define-key global-map (kbd "<non-convert>") non-convert-map)
)

これで、
(define-key non-convert-map (kbd "キー") '関数名)
のように定義できます。

わざわざキーマップを定義しなくても、
(global-set-key (kbd "<non-convert>キー") '関数名)
でもできます。

アプリケーションキーなども使えると思いますがそちらは試していません。

Emacs 側にどのような名前で認識されているかは、
キーを押した時に、エコーエリアに表示されるメッセージから
知ることができます。