Windows 10 で Anniversary Update から使えるようになった Bash on Ubuntu on Windows。しかしながら、日本語を表示するとそれに続く文字の位置がずれるなど、日本語対応がまだまだです。
以下は、特に日本語に拘りはない場合に、Bash on Ubuntu on Windowsの表示を英語にするための手順です。

手順

##1) 現在のロケールを確認します

$ echo $LANG
ja_JP.UTF8

en_US.UTF8になっていたら、既に英語表示になっているはずです

##2) ロケールを英語(US)に変更します

$ sudo update-locale LANG=en_US.UTF8

パスワードを聞かれたら、Bash on Ubuntu on Windows をインストールした際に指定したパスワードを入力します

##3) Bash on Ubuntu on Windows を再起動します