ゴール
AWSの超安いインスタンスに、HDPをインストールして遊ぶ。
インスタンス初期化
Ambari
t2.nano
[ec2-user@ip-172-31 ~]$ free -m
total used free shared buff/cache available
Mem: 990 80 731 12 179 739
Swap: 0 0 0
AWS Amazon Linux スワップファイル作成によりSwap領域のサイズを増やす
https://qiita.com/na0AaooQ/items/278a11ed905995bd16af
現在は1GBあるので、8GBのSwapメモリを追加
grep Mem /proc/meminfo
grep Swap /proc/meminfo
free
uname -a
# /swapfile1 に保存
sudo dd if=/dev/zero of=/swapfile1 bs=1M count=8192
grep Swap /proc/meminfo
ll /swapfile1
sudo chmod 600 /swapfile1
sudo mkswap /swapfile1
ll /swapfile1
swapon -s
free
sudo swapon /swapfile1
free
grep Swap /proc/meminfo
メモリ追加しました。
[ec2-user@ip-172-31 ~]$ free -m
total used free shared buff/cache available
Mem: 990 77 64 12 848 731
Swap: 3083 0 3083
[ec2-user@ip-172-31 ~]$
t2.micro instance作成
Ambari:1台
Master:1台
Slave:3台

注意事項
RHEL 7.4
Red Hat Enterprise Linux 7.4 (HVM), SSD Volume Type - ami-26ebbc5c
AWS setting
t2.micro instance
Storage setups --
Ambari: EBS 15G
NN/DN: EBS 20G


セキュリティ設定
All Traffic, Allow, HDPのセキュリティグループID指定(内部通信を全部許可)
All Traffic, Allow, MyIP (管理者のIPを許可)
これでOK
ssh private key
scp -i amuisekey.pem amuisekey.pem ec2-user@ec2-54-234-94-128.compute-1.amazonaws.com:~/.ssh/id_rsa
# 全部サーバーにアップロード
hosts
自分のMBP /etc/hosts
127.0.0.1 localhost.localdomain localhost
::1 localhost6.localdomain6 localhost6
# 外部IP
10.110.35.23 hdpmaster1.hdp.hadoop hdpmaster1
10.191.45.41 hdpmaster2.hdp.hadoop hdpmaster2
10.151.94.30 hdpslave1.hdp.hadoop hdpslave1
10.151.87.239 hdpslave2.hdp.hadoop hdpslave2
10.70.78.233 hdpslave3.hdp.hadoop hdpslave3
10.151.22.30 ambarimaster.hdp.hadoop ambarimaster
AWSサーバーの /etc/hosts
127.0.0.1 localhost.localdomain localhost
::1 localhost6.localdomain6 localhost6
# 外部IP
10.110.35.23 hdpmaster1.hdp.hadoop hdpmaster1
10.191.45.41 hdpmaster2.hdp.hadoop hdpmaster2
10.151.94.30 hdpslave1.hdp.hadoop hdpslave1
10.151.87.239 hdpslave2.hdp.hadoop hdpslave2
10.70.78.233 hdpslave3.hdp.hadoop hdpslave3
10.151.22.30 ambarimaster.hdp.hadoop ambarimaster
Install
