Help us understand the problem. What is going on with this article?

超高速bashオペレーション2

More than 5 years have passed since last update.

過去に書いた記事を再編して載せてます。
超高速bashオペレーションの続きと補足です。


前回はhistoryを使ったインクリメンタルサーチのTipsを紹介した。
「知らなかったっす!」といくつかの反響を頂き、併せて使うと捗るぜ!という小技をいくつか紹介しようと思う。
基本的に確実性を高めるために実践している小技たちだ。

『簡単フィルタ&検索機能 grep』

コマンドの後に「|(パイプ)」で渡すといろいろと捗る「grep」さん。
通常の使い方は、

$ (command) | grep (keyword)

キーワードを否定にしたい場合は、-vオプションで

$ (command) | grep -v (keyword)

よく使うのは、grep -v grepで表示させたいものだけに絞る。
例えば

$ ps -ef | grep java | grep -v grep

とするとjavaのキーワードに引っ掛かったプロセスのみ表示される。

よくあるシチュエーションでDBサーバのホスト名とIPなんだっけ?とかなったらどうする?
コメントにDB Serverとか書いてることが多いから、catでhostsファイル開いてパイプで渡してgrep……。

$ cat /etc/hosts | grep DB

とかやるよね。
ああ、catもメンドクサイ。w
同じことが

$ grep DB /etc/hosts

で出来る。
1文字でも多くキーボードを叩きたくない性質でね……。
1割でも2割でも数が減るなら、それを採用する。
それがオペレーション全体で1割2割になるとその出来た時間で他のこと出来るからね。

grepさんはテキストフィルタ機能なんだというところに着目すると別なことも出来る。
例えば、複数のシェルを変更したいのだが変更箇所や変更漏れを探すの手間だなと思うことないだろうか?
ポート番号変更、ホスト名変更など、いろいろとシェルに埋め込まれている場合とかとても面倒だ。
そんなとき、viで文字列検索をしたり、catgrepで引っ掛けたり……。(うんざり)
修正漏れはどうやって確認する?w
あるディレクトリにシェルが複数あって、各シェルの特定文字列を検索したいというパターンだと

$ grep (keyword) /hogehoge/*.sh

とかやるとキーワードに引っ掛かった文字列が含まれるファイル名とその行がざっと表示される。
viで編集して、またgrepで引っ掛けてと繰り返すと変更箇所特定&変更漏れ確認が同時に出来る。

$ cd $DOMAIN_HOME
$ grep 7001 *.sh
hoge_start.sh: ~省略~7001~省略~
hoge_stop.sh: ~省略~7001~省略~
moge_stop.sh:~省略~7001~省略~
$ vi hoge_start.sh
$ !gr
grep 7001 *.sh
hoge_stop.sh: ~省略~7001~省略~
moge_stop.sh:~省略~7001~省略~
$ !vi:p
vi hoge_start.sh
$ ^art^op
vi hoge_stop.sh
$ !gr
grep 7001 *.sh
moge_stop.sh:~省略~7001~省略~
$ !vi:p
vi hoge_stop.sh
$ ^h^m
vi moge_stop.sh
$ !gr
grep 7001 *.sh
$

てな感じである。
シェル製造の観点からは、埋め込んでしまうのは難があるので、普通やらないけど、プロダクトがインストール時に生成したシェルなどは思いっきり埋め込んでいたりするので、このTipsを覚えておくと作業効率が抜群に上がる。

キーボードを多く叩かない替わりに確実に確認して作業の信頼性を高める。
これが最大のポイントである。

『お手軽カウンター wc』

コマンドの後に「|(パイプ)」で渡すといろいろと捗る「wc」さん。w

$ (command) | wc -l

で、コマンドの標準出力の引っ掛かった行数

$ wc -l ファイル名

で、ファイルの行数を複数ファイルの場合は最後に合計の行数

$ wc -w ファイル名

で、ファイルの文字数を複数ファイルの場合は最後に合計の文字数

$ wc -c ファイル名

で、ファイルのバイト数を複数ファイルの場合は最後に合計のバイト数

画面指さして数えてないよね?w
オプション見るだけで使えそうだぜ!と思うと思うが、筆者は「-l」を多用する。

例えば、Apacheでhttpdプロセスが50コ上がってるか確認したいとき、

$ ps -ef | grep httpd | grep -v grep
~(わらわら~)~
$ !! | wc -l
ps -ef | grep httpd | grep -v grep | wc -l
50
$

とやるとビシッと確認できる。
違う数値の場合、何らかの問題でプロセスゾンビ化かなと異常も検知出来たり。

例えば、糞長いプロセス名でいくつ上がっているかわからんときとか、

$ ps -ef | grep java | grep -v grep
~(わらわらわら~)~
$ !! | wc -l
ps -ef | grep java | grep -v grep | wc -l
2
$

検索キーワードを追加、修正しながら、自分が納得いくまで確認できる。

netstatとかをgrepで引っ掛けて数数えたりするのにも使えるよね。

Linuxサーバを構築していて、いろんな人間が五月雨て作業し、導入パッケージがわけわかめで環境定義書の直しやサーバ管理が大変なことがあると思うんだが、

$ !5

もとい。www

$ rpm -qa --qf '%{name}-%{version}-%{release}.%{arch}.rpm\n'

このコマンドで
32bit、64bit、パッケージバージョン詳細など細かく出力してくれる。
テキストエディタにコピペして使うなり、alias登録して呼び出すなり、historyの履歴番号をメモするなりして使ってくれたまえ。
まあ、1度は涙を飲んで打たないとダメだけど。w

$ !! | wc -l
rpm -qa --qf '%{name}-%{version}-%{release}.%{arch}.rpm\n' | wc -l

で導入されているパッケージ数が拾える。
更に詳細は次の項で紹介することにしよう。

丁度、社内メールでのヘルプに載せたので、ついでに書いておくとディレクトリ内の大量ファイルを扱う時、いつも使っているコマンドもより気を遣わないとダンプを吐いてコマンドエラーになったりいろいろと不都合がある。
ディレクトリの内のファイル数を数えたい場合、

$ ls -f /hoge | wc -l

または、

$ find /hoge -type f | wc -l

lsコマンドは内部で勝手にソートが走るので、大量ファイルだと線形に処理が重くなる。
-fオプションでソートしない。
まあ、findの方が早いですけど。w

コマンドで目視確認もいいけど、更に数を数えてエビデンスに残したりすると正確性は更に向上する。

『ソート』

コマンドの後に「|(パイプ)」で渡すといろいろと捗る「sort」さん。www

$ (command) | sort

あんまり使う機会はないかな?
オプションがいろいろあり、便利に使える。
前の項の「Linuxサーバを構築していて、いろんな人間が五月雨て作業し、導入パッケージがわけわかめで環境定義書の直しやサーバ管理が大変なことがあると思うんだが、」の詳細を紹介しよう。
そんなにすごいことはやっていない。w
日々の作業終了時に、

$ rpm -qa --qf '%{name}-%{version}-%{release}.%{arch}.rpm\n' | wc -l

の値の確認と

$ rpm -qa --qf '%{name}-%{version}-%{release}.%{arch}.rpm\n' | sort > /tmp/`hostname`_`date +%Y%m%d%H%M%S`_rpm.txt

を実行し、値が違った際に過去に取った結果同士のdiffを取ると何が追加されて何が削除されたか把握できる。
sortするのは、diffを取る際に見づらくなったりするのを防ぐのと毎回同じルールで表示した方が都合がよいからだ。
sortコマンドもオプションなしでは第一カラム目を辞書順に表示するが、オプションによっては第二カラム目をsort出来たり、覚えると効率が上がる。

先ほど、lsコマンドが内部でsortしていると若干触れたが、ソートオプションも用意されている。
現場で目視確認漏れで「ログが出力されていない!」と大騒ぎしていたメンバーがいたのだが、「ls -l」の結果が単に新しく出力されたログが一番下に表示されると勘違いしたらしい。
-t:タイムスタンプ順でソート
-r:逆順にソート
を使用し、「ls -ltr」とすると常に一番下が最新に作成されたファイルが表示されることになる。
オプションなしだと辞書順なので注意が必要だ。

$ ls -ltr

尚、筆者はaliasはほとんど使わない。
historyとともに紹介されていることが多いaliasであるが、オペレーションミスを誘いやすいという経験からの結論に達したのでほとんど使用していない。
RedHatでは、「ll」に「ls -l」が登録されていると思うのだが、aliasでは環境によって自由に設定できる。
vimviも登録されてるし、よく使うが。
aliasと素で叩くか、そのユーザの.bashrc内に記載があるので、オペレーション開始前に確認しておくことをオススメする。
それが面倒な場合は、aliasは使わない方がいい。
筆者が「ll」を使わない理由は、常に隠しファイルやディレクトリも表示し、現在のディレクトリ階層の把握・パーミッション確認や隠しファイルの存在確認を無意識下でやっているからだ。
なので常に「ls -al」と隠しファイルも全て表示するようにしている。

$ ls -al

プロダクトが作成する設定ファイルなどは隠しファイルになっていることが多く、アンインストール漏れで隠しファイルを削除し忘れて、再インストール失敗なんてことはざらにあるからだ。
隠しファイルの削除などに便利な正規表現は次回触れようと思う。

オペレーション環境の把握やコマンドの特性、見やすい形でソートして記録するなどすることで、想定外のミスが減り、オペレーション全体から見ると無駄がなくなる。
環境で左右されるaliasなど使わずに癖をつけることで、どの環境でも正確にオペレーションが出来る。
※余計にキーボード打ってるじゃないか!と思う方もいると思うが、楽して正確性を得るがポイント。
 大局的にみるとaliasは百害あって一利なしである。(毎回alias確認するなら別[他ユーザログイン毎])

『検索くん』

今回最後に触れるのはfindコマンドだ。
先ほどさらっと触れたので、今回、自分備忘録的に取り上げることにする。
内容的には目から鱗でもなんでもない。
LPICでも学べるし、お題目のLPICじゃ学べないからは外れる。w
環境によって構文が違うので、実は筆者は余り使わない。www

単純に名前で探すときは、

$ find (dir) -name (keyword)

「.(ドット)」カレントディレクトリ以下検索なので、今いるディレクトリ以下のシェルを検索する場合、

$ find . -name '*.sh'

とすると検索できる。
execオプションと組み合わせると更にいろいろ捗る。
「.(ドット)」カレントディレクトリ以下検索なので、今いるディレクトリ以下のシェルを検索し削除する場合、

$ find . -name '*.sh' -exec rm -f {} \;

検索して表示し、続いて削除なら、

$ find . -name '*.sh'
$ !! -exec rm -f {} \;
find . -name '*.sh' -exec rm -f {} \;

とするのが安心かな。

先ほどのパッケージの管理とともに多人数五月雨環境で取得しておくといいのが、
この1日に修正があったファイル、ディレクトリのリストを取る

$ find / -mtime -1 -ls > /tmp/`hostname`_`date +%Y%m%d%H%M%S`_find.txt

としておいておくと管理に便利であろう。

全ファイル、ディレクトリの詳細リストは

# ls -alR / > /tmp/`hostname`_`date +%Y%m%d%H%M%S`_ls.txt

もいいけど、いろいろとエラーが出てスマートではないかも。

# find / -ls > /tmp/`hostname`_`date +%Y%m%d%H%M%S`_ls.txt

とやるのがいいのかな。

尚、筆者は「ls -alR」と「grep」を組み合わせて簡単検索してたりもする。
何か特定のファイルが含まれているか、簡易的&直観的に探して、パスの確認などをしたりする。

$ ls -alR | grep hoge

ととあるディレクトリ以下に目的のファイルがあるか確認して、

$ ls -alR > /tmp/lsR.txt
$ vi /tmp/lsR.txt

とテキストに吐いて、viで検索するのだ。w
どのディレクトリ階層にあるかとかパーミッションを調べてから、そのパスにアクセスしたりしてる。
findの構文をよく覚えていないからだけど。w
これは余りスマートではないことは自覚している。

筆者の場合、長く某運用管理ツール導入部隊にいたため、マルチプラットフォーム対応、本番稼働中サーバへの追加導入、限られた時間とかなりハードな状況でのオペレーション経験から蓄積されたノウハウになる。
当時はcsh環境での導入だったのだが、インフラ構築をメインにしてからcshからbashへの適応化したものだ。
コマンドを忘れたら気軽にhelpを見るなど日々の擦りこみも欠かさない。(lsとかpsって環境によって違うから)
思い込みや癖が不要なトラブルを生むと痛感しているので、常に環境特化にならないように気を付けている。

  • 見易さのため「|(パイプ)」の前後にスペース入れてますけど、筆者の実オペレーションではスペースすら入れないです。(めんどいからw)

2011/11/19 up

Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away
Comments
Sign up for free and join this conversation.
If you already have a Qiita account
Why do not you register as a user and use Qiita more conveniently?
You need to log in to use this function. Qiita can be used more conveniently after logging in.
You seem to be reading articles frequently this month. Qiita can be used more conveniently after logging in.
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away