PythonでRBMを書いて実験しました．
Bernoulli-Bernoulli RBMだけでなく，Gaussian-Bernoulli RBMも実装しました．
ただし，GB-RBMは***"Improved Learning of Gaussian-Bernoulli Restricted Boltzmann Machines"***[pdf]という論文を参考に分散を更新するようにしています．

improved GB-RBMは人間の音声のパラメータであるメルケプストラム系列を使って実験しました．

実装はGitレポジトリにあります．

実験（BB-RBM）

MNISTからランダムに取り出した画像50枚で学習します．

reconstruct error$E$はいい感じに下がっています．

E = \frac{1} {2}(data-reconst)^{2}

さて，RBMにパターンを覚えさせたところで，適当にノイズを加えた画像をRBMにつっこんでみます．

元画像のようなものが復元できたのではないでしょうか．

実験（GB-RBM）

reconstruction error

reconstした連続値のデータ（メルケプ系列）