Adversarially Learned Inference
本論はgenerative networkとinferenve networkをadversarial processにおいて学習するモデルであるadversarially learned inference (ALI)を提案する。
Generative networkはstochastic latent variableをデータ空間へ写像し、inference networkは訓練データにもとづきデータ空間からlatent spaceへの写像を学習する。
ここにおけるadversarial設定はgenerative networkから生成されたlatent/data joint sampleとinference networkから生成されたlatent/data joint sampleを判別するもう一つのdiscriminative networkを用いてなされる。
Residual Networks Behave Like Ensembles of Relatively Shallow Networks, NIPS2016
本論ではresnetの新たな解釈を提案し、結果、異なった長さのたくさんのパスをを組み合わせたものとして解釈できる事が分かった。
さらに、resnetは短いパスのネットワークだけを活用する事で非常に深いネットワーク構造を実現していると解釈ができる。
この事を示すため、resnetを明示的にいくつかの異なった長さのネットワークパスの組み合わせとして表現する事に成功した。
この時、各パスのネットワークは、アンサンブルモデルのように、お互いに関連のないモデルとなっている。
これはresnetがvanishing gradientを上手く回避している事の示唆にもなる。
Hierarchical Clustering of Asymmetric Networks
有向性を持つdissimilarity用いたネットワーク表現を扱う。
この構造を用いる事でconnectivity parameterに関連付けがされたネスト構造の階層的クラスタリングを行う。
このクラスタリングはadmissible methodsに則る、つまりこの場合は２つのノードは互いのdissimilarity measureの最大値にもとづきクラスタリングを行う、またdissimilarityが減少する場合、そのクラスタは凝集するがその逆はない。相互的、あるいは非相互的なクラスタリング手法を導入する事によりこのadmissible methodに関する上界及び下界を求める事ができる。