0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

重いファイルの転送・小技集

Posted at

最初に

サーバー間で、重いデータを転送したい時がある。
ローカルを経由するとバカみたいに通信を食う。
また、VPNでつないでる時なんかは、途中でVPNが落ちちゃったりしたら目も当てられない。
ということで、基本戦略は下記となる。

  • 分割して送ること
  • rsyncで同期すること
  • 分割ファイルを戻すこと

(1) まず圧縮

tar zcvf hoge.tar.gz hoge  # 圧縮
tar zcvf --use-compress-prog=pigz hoge.tar.gz hoge  # 圧縮(並列版)

(2) 分割する (1000m = 1GB)

split -b 1000m hoge.tar.gz hoge.grd.tar.gz-

(3) rsyncする (スクリプトを準備しよう)

#!/bin/sh
rsync -av ./sender/  ?????@????????.jp:/work/hoge/reciever/

(4) 元に戻す

cat /work/hoge/reciever/hoge.tar.gz-* > hoge.tar.g

これで元に戻せた。この年になるまで、ファイル分割を知らなかった。
splitとcatのコンボが強力です。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?