Abstract

訳文

ほとんどの機械学習アルゴリズムの性能を向上させる非常に簡単な方法は, 同じデータ上で多くの異なるモデルを訓練し, それらの予測値を平均化することである. 残念ながら, モデルのアンサンブル全体を使って予測を行うことは面倒であり, 特に個々のモデルが大規模なニューラルネットである場合には, 多くのユーザーが利用可能にするには計算量が多すぎるかもしれない. Caruana と彼の共同研究者は, アンサンブル内の知識を圧縮して単一のモデルにすることが可能であることを示しており, 我々はこのアプローチを別の圧縮技術を用いてさらに開発している. 我々は MNIST で驚くべき結果を得ており, モデルのアンサンブルの知識を単一のモデルに蒸留することで, 多用されている商用システムの音響モデルを大幅に改善できることを示す. また、$1$ つ以上の完全モデルと, 完全モデルが混同している細かいクラスを区別するために学習する多くの専門モデルから構成される新しいタイプのアンサンブルを導入した. 専門の混合モデルとは異なり, これらの専門モデルは迅速かつ並列に学習することができる.

原文

A very simple way to improve the performance of almost any machine learning algorithm is to train many different models on the same data and then to average their predictions. Unfortunately, making predictions using a whole ensemble of models is cumbersome and may be too computationally expensive to allow deployment to a large number of users, especially if the individual models are large neural nets. Caruana and his collaborators have shown that it is possible to compress the knowledge in an ensemble into a single model which is much easier to deploy and we develop this approach further using a different compression technique. We achieve some surprising results on MNIST and we show that we can significantly improve the acoustic model of a heavily used commercial system by distilling the knowledge in an ensemble of models into a single model. We also introduce a new type of ensemble composed of one or more full models and many specialist models which learn to distinguish fine-grained classes that the full models confuse. Unlike a mixture of experts, these specialist models can be trained rapidly and in parallel.