以前のバージョンでの手順はBlog等で多数公開されていますが、結構変わっていたので、メモとして残します。内容としては、CUDAを....というよりはnVidiaドライバーの新規セットアップです。
文中に紹介している nVidia サイトの URL 類は、すべて開発者登録（無償）とログインが必要です。
ubuntu 14.04.4 LTS と CUDA 7.5 の組み合わせでも、基本的には同じ手順です。
/etc/modprobe.d/nvidia-installer-disavle-nouveau.conf が自動生成されない等、若干の相違があるだけです。
CUDA 7.0 の場合はパッケージに含まれているドライバーのためのカーネル構成情報が古いのか？この手順では解決しませんでした。
ドライバーインストールエラーが確認された後で、CUDA ドライバーだけ最新のものをインストールしてください。
公式ドキュメントを読め
まずは5月付けの最新ドキュメントを読みましょう。最低限読まなくてはならないのは、四章 RUNFILE INSTALLATION です。
NVIDIA CUDA INSTALLATION GUIDE FOR LINUX
DU-05347-001_v8.0 | May 2016
http://developer.download.nvidia.com/compute/cuda/8.0/secure/rc1/docs/sidebar/CUDA_Installation_Guide_Linux.pdf
公式ドキュメントを読まずにハマりました
とりあえず CUDA 8.0 RC をダウンロードします、
CUDA Toolkit 8.0 Release Candidate Downloads
https://developer.nvidia.com/cuda-release-candidate-download
Webページ下部に示される手順に沿って作業してみますが....
（実はここに最初に示した公式ドキュメントのリンクが登場しています。）
Nouveau を止める
標準では Ubuntu 16.04 のカーネルで Nouveau が動いており、これが NVidia ドライバーのインストールを妨げます。
まずはX-Serverを止める
GUI環境でインストーラーを実行すると、X-Serverを止めて実行しろと怒られます。
対応手順はインストーラーに実行権限を付与した後で....
sudo /etc/init.d/lightdm stop
CTL+ALT+F2でコンソール切り替え
sudo sh cuda_8.0.27_linux.run
こんどは Nouveau ドライバーが邪魔だといわれます。再起動してもう一回試せと。
確認してみると、
/etc/modprobe.d/nvidia-installer-disable-nouveau.conf
ファイルが生成されています。
blacklist nouveau
options nouveau modeset=0
Nouveau 外しをカーネル構成に反映する
インストーラーの初回実行で生成されたこの conf を、（次回起動時の）カーネル構成に反映します。
sudo update-initramfs -u
メモ
インストーラーを複数回実行する必然性はありません。
/etc/modprobe.d/nvidia-installer-disavle-nouveau.conf ファイルは、最初から手動で用意しても構いません。
二回実行すれば、一切のconfファイル編集は行わずに済むのは確かです。
ここで再起動すると、GUIがVGAで起動します。
先達諸兄のBlog等々による旧バージョン対応記述では "GUIが起動しないように設定する" としている例が多いのですが、要は起動されたカーネルから nVidia ドライバーと干渉する nouveau が外れていればそれで良いです。
lsmod | grep nouveau
で、nouveau が起動していないことが確認できます。
もう一度VGAなGUIを止めましょう。
sudo /etc/init.d/lightdm stop
CTL+ALT+F2でコンソール切り替え
sudo sh cuda_8.0.27_linux.run
今度はドライバーのインストールを通過しましたね？
インストーラーの指定確認項目の中で唯一 no がデフォルトである nvidia-xconfig 項目は、迷った末に yes を選択しました。つまりは nouveau 外しのカーネル構成をそのまま使いますので、リブートすれば作業は終了です。
GUI起動直前に、nVidiaロゴマークが出現します。