LoginSignup
11
7

More than 5 years have passed since last update.

Apache Sparkをセットアップしてみる

Last updated at Posted at 2016-05-02

事前準備

何もないけどOSのバージョン確認(今回はCentOS 6.7 final)

cat /etc/redhat-release

Javaのインストール

Open Javaをyumでインストールする

まずはインストール可能なopenjdkを検索します

yum search openjdk
スクリーンショット 2016-05-01 23.39.37.png

ランタイムのインストール

sudo yum install java-1.8.0-openjdk
スクリーンショット 2016-05-01 23.47.40.png

開発環境のインストール

sudo yum install java-1.8.0-openjdk-devel
スクリーンショット 2016-05-01 23.52.06.png

Apache Sparkのインストール

パッケージをダウンロード

ここからダウンロード可能です。
スクリーンショット 2016-05-01 22.58.20.png

今回はコマンドで!

Hadoop 2.6が含まれているバージョンを入れます

スクリーンショット 2016-05-01 23.57.08.png

お好きなところからダウンロード

wget http://ftp.jaist.ac.jp/pub/apache/spark/spark-1.6.1/spark-1.6.1-bin-hadoop2.6.tgz
スクリーンショット 2016-05-01 23.10.47.png

解凍

tar zxvf spark-1.6.1-bin-hadoop2.6.tgz -C /usr/local/lib/
スクリーンショット 2016-05-01 23.59.05.png

シンボリックリンクを作成

ln -s /usr/local/lib/spark-1.6.1-bin-hadoop2.6 /usr/local/lib/spark

環境変数の追加

sudo vi /etc/profile.d/spark.sh

以下の2つの設定を挿入
export SPARK_HOME=/usr/local/lib/spark
export PATH=$SPARK_HOME/bin:$PATH
保存が終わったら再読み込み
source /etc/profile

最後に正常にセットアップできたか確認

spark-shell --version
スクリーンショット 2016-05-02 0.15.18.png

11
7
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
11
7