abst
この論文は，観測の一部が著しく破損または，欠落している多変量線形回帰の問題を研究し，その原因と解決するためのアプローチを提案している．
アプローチの特徴は，独自のノイズレベルを持つことができること．
アプリケーションでは，SNSでのユーザー行動に基づくパーソナリティの予測と画像データによる手のポーズの推定の2つを行っている．
- introduction
Y = XW^* +Z
$Y\in \mathbb{R}^{n\times p}$ : 観測値のセット行列
$X\in \mathbb{R}^{n\times d}$ : 各行がサンプルである計画行列
$W\in \mathbb{R}^{d\times p}$ : 回帰係数行列
$Z\in \mathbb{R}^{n\times p}$ : 観測値にノイズを含む行列
<問題>
$X$と$Y$から係数回帰行列$W^*$を推定すること．$Y$のノイズはエネルギーをboundしており、ノイズ行列$Z$に十分に吸収されると仮定するのが一般的．
これは通常，特定のガウス分布に従うようにモデル化されている．
<損失関数>
$W = argmin_W{{\ell(X,Y;W) + \lambda r_W(W)}}$
$\ell$ : 損失関数
$\lambda$ : 調整パラメータ
$r_W(W)$ : 正則化項
観測$Y$は通常のエラーよりもかなり大きなエラーによって破損している．例えば，不注意もしくは，悪意のあるユーザーアノテーションによってひどく汚染されている．
ここで，$G^* \in \mathbb{R}^{n\times p}$を考えることでこの問題に対処する．
$G^*\in \mathbb{R}^{n\times p}$ : 非ゼロエントリのⅠが不明で大きさが非常に大きい可能性があるスパース行列．
これにより，次の線形モデルができる．
Y = XW^*+Z+G^*
次の最適化を行う
min_{W,G}{{\ell(X,Y;W,G)+\lambda r_W(W)+\rho r_G(G)}}
\rho : トレードオフパラメータ\\
r_G(G)： 正則化項
論文の貢献
(1) 多変量回帰の新しいアプローチ
(2) 誘導された非滑らかな最適化問題は、効率的でグローバルに収束することが本稿で示されている．
(3) 実世界の2つのアプリケーションについて実証
(4) オープンソースと再現可能なプラクティスをサポートするために、実装と関連データセットを公開している．
1.1 関連研究
最小二乗損失には2つの欠点がある．
(1) 異なる回帰タスクに含まれるさまざまなノイズレベルは無視される
(2) 有限サンプルのパフォーマンスを改善するには、Zの未知の分散の推定に依存する最適なλを選択することが重要．
この2つの問題に対処した論文がcalibrated multivariate regression (CMR) method(Liu et al, 2014)
→ノイズの影響を受けにくく，ノイズレベルに応じてタスクを調整できる．
この論文のアプローチでは，損知る関数として，L2,1-normを採用する．
The Proposed Model
Our CMRG ALgrithm
Empirical Evaluations
Conclusions
一部の出力ラベルが破損または欠落している多変量回帰問題の新しいアプローチを検討した．
総誤差はモデルで明示的に対処されますが、独自のノイズレベルに応じて個別の回帰要素またはタスクを適応させることができる．
さらに、グローバルに収束し効率的な提案された近位ADMMアルゴリズムの収束および実行時特性を提案および分析します。
このモデルと特別に設計されたソルバーを組み合わせることで、さまざまなアプリケーションに取り組むアプローチが可能になります。これは、2つの異なるアプリケーションで実際に実証されています。
つまり、SNSでの行動に基づいて人格を予測し、単一の深度画像から3Dの手のポーズを推定します。
合成データセットと実際のデータセットに関する実証実験により、ラベルノイズが存在する場合のアプローチの適用性が示されました。
futurework
ディープラーニングテクニックと統合して、3Dハンドポーズの推定など、より実用的な問題に対処する．
0. 論文
1. どんなもの？
出力ラベルが破損または欠落している多変量回帰の問題に対処した論文．
2. 先行研究と比べてどこがすごい？
ノイズを考慮してより精度がよい．
3. 技術や手法のキモはどこ？
損失関数を変えた？
ノルムを違うやつ使ってる．
4. どうやって有効だと検証した？
データ：人口データと実世界のデータ
対戦相手：
評価指標：
5. 議論はある？
提案モデルが完全に理解できていないので，要確認．
実装コードが公開されているのであとで確認する．
6. 次に読むべき論文は？
最小二乗損失には2つの欠点に対処した論文Liu et al, 2014)