今動いているシステムと同じ環境を別マシンに作りたい場合など、今の環境にインストールされている全パッケージをダウンロードする方法です。
手順
まずyumdownloaderを含んでいるパッケージyum-utilsをインストールします。
# yum install -y yum-utils
yumdownloaderを実行します。
$ yumdownloader `rpm -qa`
カレントディレクトリにrpmがダウンロードされます。
GPG公開鍵
実際に手元のマシンで実行してみたところ、gpg-pubkey-f4a80eb5-53a7ff4bだけはダウンロードされませんでした。gpg-pubkey-*はrpmの署名確認に使う公開鍵を含むダミーのパッケージで、ファイルは１個も含んでいません。rpmの公開鍵をインポートするにはrpm --importを使います。
インポートしている公開鍵のリスト：
# rpm -qa "gpg-pubkey*"
公開鍵をファイルにエクスポート：
# rpm -qi gpg-pubkey-f4a80eb5-53a7ff4b > backup
インポートしている公開鍵を削除：
# rpm -e gpg-pubkey-f4a80eb5-53a7ff4b
さっきエクスポートしたファイルから再インポート：
# rpm --import backup
参考：
B.3. パッケージの署名確認
What are gpg-pubkey packages
yum installしたときrpmを消さずに残しておく
なお、あらかじめ/etc/yum.confで
keepcache=1
と書いておくと、yum installしたときダウンロードしたrpmが消されずに残るようになります（場所は/var/cache/yum/以下のどこか）。