Rのインストール

R CRAN ミラーサイト
Rインストール方法 (Windows)
Macintoshの場合
pkgインストールなので、特に説明はいらないと思います。

開発環境

RStudio
私はこちらを使っています。グラフがすぐに見れたり、ファイルの管理などが簡単なのでオススメです。　　
Emacs + EES
普段使ってるEmacsでRのプログラムを書きたいという方にはこちらがオススメ

ライブラリ・フレームワーク等

Webフレームワーク

Shiny
RのネイティブWebアプリを作成するためのフレームワーク。

Ruby関連

R in Ruby
ruby上でRを動かしたい人は、こちらのクイックスタートを参考にしてください。正直あまり使う機会がない。。。
rserve simpler Ruby on RailsでRを動かすためのGem。こちらはRails上で統計処理を行いたい際によく利用します。

python関連

RPy2
RのコードをPythonで動かしたいときにはこちらのドキュメントをよく参考にしています。
rPython
逆にRからPythonのコードを呼び出したい場合はこちらを使用します。

RStudio Serverなど、大規模なデータを処理するためのRの技術は少しずつ進んでいるみたいですが、Rだけ使ってビッグデータ処理などはあまりしないほうがいいみたいです。最近ではRをビッグデータ用に最適化する研究も進んできているみたいです。とりあえず現段階では、RubyやPythonなどで集めてきたデータを、ローカル環境のRで統計処理することがオススメです。