タイトルの通りです。公式ページに書いてある通りの内容ですが、メモとして残しておきます。
VirtualBoxのインストール
Ubuntu 14.04 LTS標準で入るVirtualBoxは古すぎてWindows 10が利用できません。最新版のVirtualBoxをOracleから入手するのが良いでしょう。
「Linux_Downloads – Oracle VM VirtualBox」を参考に、次のように作業します。
まず、/etc/apt/sources.listの末尾に次のように追記します。
deb http://download.virtualbox.org/virtualbox/debian vivid contrib
次に、Oracleの公開鍵を登録します。
$ wget -q https://www.virtualbox.org/download/oracle_vbox.asc -O- | sudo apt-key add -
ここからは普段通りの手順です。virtualbox-4.3パッケージをインストールしましょう。
$ sudo apt-get update
$ sudo apt-get install virtualbox-4.3
これでvirtualboxコマンドが実行できるようになります。
Extension Packのインストール
ゲストOSからUSBを利用したいような場合はExtension Packをインストールする必要があります。上のページからダウンロードしたものをVirtualBoxに食わせればインストールできます。
Windows 10 Insider Previewのインストール
Windows 10 Insider Previewはオープンβバージョンみたいなもんです。Windows 10が出る頃には使えなくなるでしょうし、まだ不安定な可能性もありますが、無料なのが利点ですね。ちょっとした実験をしてすぐ消す仮想環境としてなら十分使えるはずです（もっとも、このような目的ならWindows 8.1 Enterprise 評価版という選択肢もあります）。
「Windows 10 Insider Preview ISO のダウンロード - Microsoft Windows」からISOファイルを落として、VirtualBoxからDVDドライブとしてマウントしましょう。ちなみに筆者は64bit版で試しました。
起動後、指示に従っていれば特にトラブルなくインストールが完了します。