LoginSignup
6

More than 5 years have passed since last update.

curlでディレクトリ階層ごとファイルをダウンロードする

Last updated at Posted at 2015-02-13

とあるPDFを階層ごとダウンロードしたくてこんなパイプラインを書いてみました。

echo "http://www.hogehoge.co.jp/aaa/bbb/ccc/ddd.pdf" | \
  sed -E "s#(^http://[^/]+/)(.+)\$#./\2 \1\2#g" | \
  xargs -I {} echo "curl --create-dirs --output {}" |sh

こうするとダウンロードしたデータを./aaa/bbb/ccc/ddd.pdfに保存してくれます。
sedでURLを./aaa/bbb/ccc/ddd.pdf http://www.hogehoge.co.jp/aaa/bbb/ccc/ddd.pdfに分解してます。
xargsではスペースで分けてもひとつの引数として渡されちゃうみたいなのでこんな変な書き方になってます。改善案ありましたらコメントくださいませ。

MBAのコンソールで動作確認OKでした。

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
6