Distilling a Neural Network Into a Soft Decision Tree
deepnetは分類問題に対して有効な手段として知られている。
しかし、学習されたモデルは、その予測の根拠を説明する事が難しい。
そこで、hierarchical decision treeのような形にモデルを変換し、
説明を可能にする事ができる事は望ましい。
本論では、学習済のdeepnetをもとにsoft decision treeの
形式で学習データの入力から直接説明可能なdecision modelでかつもとのdeepnetと同等以上の性能を実現
する手法を提案する。
Knowledge Concentration: Learning 100K Object Classifiers in a Single CNN
粒度の高い画像ラベルは基本的には望ましい事である。
しかし大量の種類のラベルが存在する場合、その学習は困難になる。
そのため一般的には、ある特定の種類のクラスに絞ったモデルを
複数学習し、それらを組み合わせて利用する。
しかしこのやり方ではスケールさせる事が難しくなる。
本論では、この問題に対処する手法として、
Knowledge Concentrationを提案する。
この手法は、学習された特化型のモデル群を用いて、
それを一つのモデルに対してdistillationを行う事により、
大量のクラスに対する分類を一つのモデルにて実現する。
VoxelNet: End-to-End Learning for Point Cloud Based 3D Object Detection
自動運転などを始めとして、3D point cloudを用いた
高精度な物体検出は重要である。
画像認識で用いられるregion proposal network(RPN)を
スパースなpoint cloudと組み合わせる試みは、
bird's eye view projectionなどの人手で作られた特徴に依存している。
本論では、そうした人手による特徴抽出に頼らない手法として
VoxelNetを提案する。
この手法はpoint cloudから物体検出までを一貫してend to endに行う。
この手法では、point cloudを空間を等分して作るvoxelによって分け、
新たに提案するvoxel feature encoding layerを用いて各voxelに含まれる
点群に対する特徴抽出を行う。
この特徴は空間的な表現であって、これをＲＰＮと組み合わせる事で
物体検出を実現する。