前段階として最低限のものをインストール

pythonのバージョンは3.5.0を使用しています
python 2系だと僕はうまく稼働しなかったので参考にしてください
以下のサイトを参考にさせていただきました
https://qiita.com/takeruw/items/3540c1c618d5459195ad

注）terminalでcd ~と実行して移動した先がホームディレクトリです

1 openAIGymのインストール

terminalで以下を実行

git clone https://github.com/openai/gym.git
cd gym
pip install -e .

ここでterminalでpythonを起動し

import gym

で問題なければOK！
ここまででopenAIGymをインストールできた．

keras-rlを使用する際にkeras,tensorflow,keras-rlが必要となる
terminalで以下を実行

pip install keras

pip install tensorflow

git clone https://github.com/matthiasplappert/keras-rl.git
pip install ./keras-rl

実行後に

python keras-rl/examples/dqn_cartpole.py

でエラーなく動作ができたらOK!