counter-fitting word vector
Counter-fitting Word Vectors to Linguistic Constraints
https://arxiv.org/abs/1603.00892
Gloveなどの単語埋め込みを得る手法には、意味的に似た単語が埋め込み空間上で近くに来やすいという性質がある。
その一方で、文脈から単語を学習するという仕組み上、対義語などの似た文脈に出るものも近くに来やすくなってしまう問題がある。
そこで、提案法は辞書情報をもとに単語埋め込みの再学習を行い、類語語は近づけ対義語は離すように学習した。
結果として、このように類義語だけを近づけることができた。
