はじめに
これまで、S3にデータを入れるときは手元でCSV等を作ってアップロードしたり、逆にS3内のデータを参照するときにはダウンロードしてから参照していたりしていました。
が、(今更ですが)最近になって標準入出力でやりとりできることを知ったので自分用のメモとして残すための記事です。
標準出力への出力
標準出力へ出力できるとパイプが使えるので、色々便利ですよね。
aws s3 cp s3://xxx-bucket/test.csv -
圧縮ファイルもzcatで。
aws s3 cp s3://xxx-bucket/test.csv.gz - | zcat
ただ、--recursiveを指定して複数ファイルを標準出力に出すことはできないようです。
標準入力からS3へデータ作成
S3のオブジェクトがこれで作れると知ったときはちょっとした驚きでした。
echo hogehoge | aws s3 - cp s3://xxx-bucket/test2.csv