ググるとgrepやらawkやら駆使してるのが出てくるんですが、filterオプションというものがあるのでそれを使った方がスマートです。
docker 1.12時点のものです。
動いていないコンテナを消す
docker ps -aq -f status=exited -f status=dead | xargs docker rm
コンテナのステータスはこちら
createdrestartingrunningpausedexiteddead
タグの付いてないイメージを消す
danglingは<none>になってるイメージです。
docker images -f "dangling=true" -q | xargs docker rmi