ルネサスのUSBシリアルドライバーが見つからないケースが多々あるようです。
PCとRX64MをCDCで通信するためのドライバーに関して
https://japan.renesasrulz.com/cafe_rene/f/002-2095199602/4808/pc-rx64m-cdc
Windows7では発生するが、Win10では発生しないようで、CDCDriver（FTDIやCP2102系のドライバーを移植すれば動く場合もあるようですが、VID等を細工しても動かない、エラーになるケースもあるようです。
*私はいじらないで使おうとしたら案の定エラーになりました。
USB\VID_045B&PID_025A&REV_0100
USB\Class_02&SubClass_02&Prot_00
Synergy Signed USB CDC Driver をダウンロードします。
https://www.renesas.com/jp/ja/products/synergy/software/add-ons/usb-cdc-drivers.html
先ほどダウンロードしたドライバーファイルを指定。
以上で使えるようになっているはずです。
今回私はGR-ROSEに使われるRX65Nで確認しています。