【論文読み】意味的変換による非重複特徴量を用いたFederated Learning

はじめに

こんにちは。論文を読んだ結果の紹介記事です。
今回紹介するのは、「意味的変換による非重複特徴量を用いたFederated Learning」という論文です。

• タイトル： 【論文読み】意味的変換による非重複特徴量を用いたFederated Learning
• 出典： 森 毅, et al.; 人工知能学会、 2022
• URL： https://www.jstage.jst.go.jp/article/pjsai/JSAI2022/0/JSAI2022_4Yin226/_article/-char/ja/

概要

連合学習のHFLを実行する前と比較して性能が向上した。
３つの提案手法のうち、集約特徴量、推定特徴量、が有用であった。

特徴

• 連合学習には、HFL, VFL, FTLの大きく３種類がある。本稿はHFL。

• HFLを実行する３つの手法を提案

  • 集約特徴量・・・非超福徳長量を１つの特徴量に集約して共通化する。
  • 推定特徴量・・・重複特徴量から非重複特徴量を予測するモデルを構築し、それを他組織で推論に使って特徴量を揃えていく。
  • 共通中間表現・・・中間表現へ変換する。各組織のエンコードした結果の中間表現を揃える。

• PCAの次元圧縮による評価

  • 推定特徴量を圧縮した結果が、２つの組織間で似た概形となった。
  • 共通中間表現を圧縮した結果が、２つの組織間で似た概形とならなかった。

想定される適用例

• プライバシー情報の利活用
• 共通部分と異なる部分の特徴量があるデータセットで、異なる部分も有効活用し、モデル精度を上げる

参考

• 意味的変換による非重複特徴量を用いたFederated Learning