すでにこの投稿の内容は現状に合わないものとなっているので
Mac で IRuby Notebook 環境を構築する方法 2017年版
を参照してください

どみとりさんのqiitaエントリ
に説明を加え、タイトルの方法をまとめます。
Mac OS X El Capitanで確認をしていますがこれより前のOS Xにも適用できると思います。

大きく分けて

Ruby のインストール

MacデフォルトのRubyやhomebrewのRubyは使わないでください。
rbenv を用いてRubyの最新リリースをインストールします。
rbenv はhomebrewを用いてインストールします。(ついでに後述のrbczmqのインストールなどに必要なツールもhomebrewでインストールします。)

brew install rbenv automake gmp libtool wget

まずシェルの設定ファイル(.bashrcなど)に eval "$(rbenv init -)" を追加してください。
その後下記のrbenvコマンドでRubyをインストールします。

rbenv install 2.3.1
rbenv global 2.3.1
source ~/.bashrc

これでRubyのインストールは完了です。

Jupyter Notebook のインストール

下記で python コマンドを用いますが、これにはデフォルトで入っている /usr/bin/ 下のものを用いて下さい。

wget https://bootstrap.pypa.io/get-pip.py
/usr/bin/python get-pip.py --user
~/Library/Python/2.7/bin/pip install -U --user jupyter

IRubyだけでなく RubyとJupyterをつなぐRuby用zeromqライブラリのインストールも必要です。

gem install iruby rbczmq

iruby register
~/Library/Python/2.7/bin/jupyter-notebook