#現象

物理メモリ１台16GBの環境でメモリの割り当てをデフォルトの無制限（-1)にしていたが、すぐに食い潰してswapに落ちてしまうためパフォーマンスが劣化しているように見える。

#impalaに割り当てるリソース管理箇所

プロパティ	設定名	デフォルト
impala deamon memory limit	mem_limit	null
CPU共有	cpu.shares	1024
Cgroup I/O weight	blkio.weight	500
Cgroup Memory Soft limit	memory.soft_limit_in_bytes	-1MB
メモリのハード制限	memory.limit_in_bytes	-1MB

#Cgroupとは？

cgroup(control group)

Control Group、Linux Containerの紹介

Control Groups (cgroups)

cgroupsとしばらく一緒に過ごしてみた

Performance Prediction and Optimization using Linux/cgroups

Redhat カスタマーポータル：3.7. memory

memory.limit_in_bytes

ユーザーメモリーの最大値 (ファイルキャッシュを含む) を設定します。単位が指定されていない場合、その値はバイト単位と解釈されますが、より大きな単位を示すサフィックスを使用することが可能です (キロバイトには k または K、メガバイトには m または M、ギガバイトには g または G)。
root cgroup を制限するのには、memory.limit_in_bytes は使用できません。値を適用できるのは、下位階層のグループに対してのみです。
memory.limit_in_bytes に -1 と書き込み、現行の制限値を削除します。

#設定

ソフトリミットを設定することで、設定値内でなるべくうまく物理メモリを使ってくれて、それでもうまくいかない時はハードリミットで制限される。ハードリミットを超えてメモリ領域が必要な場合はswapに落ちるか、oom_killer等で沈静化されると解釈

そのため、ソフトリミットのmemory.soft_limit_in_bytesとハードリミットのmemory.limit_in_bytesを設定してみた。

プロパティ	値
物理メモリ	24GB
memory.soft_limit_in_bytes	18GB
memory.limit_in_bytes	19GB

※上記は実験値で特に推奨値なわけではありません

#結果
memory.soft_limit_in_bytesを設定することで(少し見難いが)activeのメモリ使用量部分が18GB付近を上限に調整するようになってくれた。

#まとめ

impalaの推奨メモリが128GBとのことだが、なかなか用意するのも大変なので、安定運用や一時凌ぎには設定をしておいたほうが良い気がします。