こちらでUbuntu 14.xxバージョンを書きましたが、CentOS 6&7/Fedora20も需要があると見て書きます。

ただし当方Fedoraは使用していないので、同様の方法で可能と思われますが、可能性は保証しません。これを読んでFedoraで試される方は、そのことを承知のうえで行ってください。

にあるとおりにいくので、Fedora 20とCentOS 6.x系を想定しますが、CentOS 7系も同一の方法で可能でした。

インストールの前に

まず古いJDKがインストールされていないか確認します。

$ java -version
bash: java: command not found
$

といった具合にコマンドが見つからなければOKです。
（あった場合はアンインストール、またはUbuntu同様にalternative切り替え→不要なバージョンはアンインストールとなるはずです）

インストール

$ yum search java | grep 1.8.0-openjdk

して物があるか確認してから、

# yum install java-1.8.0-openjdk

するとインストールされます。あとは、

$ java -version

して、1.8.0_xx（2015/4/16現在は1.8.0_45）とバージョン表示されればOKです。