Windows7でDockerToolboxを利用しており、
コンテナ内に入り作業をしている時に標題のエラーが発生。
"new state of nil is invalid"でぐぐると以下の様な記事がでてくる。
Windowsが10未満（8.1や8, 7など）の場合、[ocker Quickstart Terminal]上のコンテナ操作コンソールで日本語を表示すると「New state of ‘nil’ is invalid.」が発生します。
ということらしい。
DockerQuickstartTerminalを起動してコンソールの文字コードをutf-8へ変更しようと試みるが不明。
Git Bashを起動した場合、Options>Text>Character setからUTF-8を選択できるため、
Git Bashからdocker-machine ssh defaultで接続してから作業を行うことでエラーを回避できた。