Cygwinは普通に使うとホームディレクトリが ${Cygwinインストール場所}/home/ore になります。（ユーザーが ore の場合の例ね）
Windowsのユーザーホームと合わせたいですよね。
ホームディレクトリを変える
Windowsの環境変数HOMEにホームディレクトリにしたい場所を設定します。
HOME = D:\Users\ore
＃自分はDドライブにユーザーホームを引っ越しているので。。。
.ssh/known_hostがどうのと怒られる対策
そのままだと何故か、 /home/ore/.ssh/known_host を作りに行って怒られます。
/etc/passwd に書かれているホームディレクトリの場所が /home/ore のままになっているので、こいつを /cygdrive/d/Users/ore みたいに書き換えればOK.