11
7

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 5 years have passed since last update.

Apache Sparkをセットアップしてみる

Last updated at Posted at 2016-05-02

#事前準備
##何もないけどOSのバージョン確認(今回はCentOS 6.7 final)
cat /etc/redhat-release
##Javaのインストール
###Open Javaをyumでインストールする
####まずはインストール可能なopenjdkを検索します
yum search openjdk
スクリーンショット 2016-05-01 23.39.37.png
####ランタイムのインストール
sudo yum install java-1.8.0-openjdk
スクリーンショット 2016-05-01 23.47.40.png
####開発環境のインストール
sudo yum install java-1.8.0-openjdk-devel
スクリーンショット 2016-05-01 23.52.06.png

#Apache Sparkのインストール
##パッケージをダウンロード

ここからダウンロード可能です。
スクリーンショット 2016-05-01 22.58.20.png
##今回はコマンドで!
###Hadoop 2.6が含まれているバージョンを入れます
スクリーンショット 2016-05-01 23.57.08.png
####お好きなところからダウンロード
wget http://ftp.jaist.ac.jp/pub/apache/spark/spark-1.6.1/spark-1.6.1-bin-hadoop2.6.tgz
スクリーンショット 2016-05-01 23.10.47.png

###解凍
tar zxvf spark-1.6.1-bin-hadoop2.6.tgz -C /usr/local/lib/
スクリーンショット 2016-05-01 23.59.05.png
###シンボリックリンクを作成
ln -s /usr/local/lib/spark-1.6.1-bin-hadoop2.6 /usr/local/lib/spark
###環境変数の追加
sudo vi /etc/profile.d/spark.sh

以下の2つの設定を挿入
export SPARK_HOME=/usr/local/lib/spark
export PATH=$SPARK_HOME/bin:$PATH
保存が終わったら再読み込み
source /etc/profile
###最後に正常にセットアップできたか確認
spark-shell --version
スクリーンショット 2016-05-02 0.15.18.png

11
7
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
11
7

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?