Qiita Teams that are logged in
You are not logged in to any team

Log in to Qiita Team
Community
OrganizationEventAdvent CalendarQiitadon (β)
Service
Qiita JobsQiita ZineQiita Blog
8
Help us understand the problem. What is going on with this article?

More than 3 years have passed since last update.

@imaiworks

AWS CLI s3 cp/mvでワイルドカードが使えないならxargsと併用するといいっぽい

AWS CLIでs3に大量ファイルをcopy/moveを試みようとするとぶち当たるワイルドカードが使えない問題
--recursiveオプションを使えばいいのですがいまいち解りにくくて萎えてたのですが、
普段からよく使うxargsと併用してみるとなんか直感的になったのでその方法を・・

ls -1 *.txt|xargs -I FILENAME aws s3 mv FILENAME s3://バケット名/FILENAME

xargsには -I replace-strオプションというのがあり、
xargsにパイプで渡ってきた行をreplace-strで指定した文字に置き換えてくれて、
しかも置き換え文字は何度でも登場させてもいいので

まず、ls -1 *.txtとして対象ファイルを1ファイルごと改行付きで出力させ
aws s3 cp/mvのLocalPath S3Uriの部分にreplace-strを設定・指定してあげればOKです。

先の例ではlsの結果がxargsではFILENAMEという置き換え文字のところに当てはまり
aws s3 cp/mvのごく普通の書き方として実行されます。

もちろんパイプ中にgrep -v等でlsの結果からファイル名を対象外にしたりも出来るので
随分直感的に扱えるようになりました。

8
Help us understand the problem. What is going on with this article?
Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away
8
Help us understand the problem. What is going on with this article?