はじめに
個人的に研究的な活動をやるにあたり、オープンにしてみたら面白いかもと思い、自分が興味を持っている ざっくりテーマについて、これから、ゆるい週末研究を公開していこうと思います。(有識者の方のアドバイスも、ちょっとというかかなり期待してます!笑)
どこかの権威的な学会やジャーナルなどで発表する予定はないため、万が一、私の記事を利用する際には自己責任でお願いします。そんな人はいないと思いますが、念のため。
TL; DR
- これから、週末研究がんばります!
環境
- 今回はなし
今考えている週末研究のアイデア集
-
自然言語関係のモデルの解釈性について
- 判定結果が、どの一文が効いているのか、に答えることができるような、判定モデルの開発
- 文単位でベクトル化し、それぞれの寄与度を学習するようなモデル
- 文単位の寄与度をラベル付しなくても学習できるようにする
- 人間から寄与度が高い文を提供(教育)されたら、該当文・文集合の寄与度が高くなるように学習する
-
ベクトル化のアイデア(理論的によい性質を持ちそうな・・という観点で何か作れないか)
- 言語のベクトル化に波の性質取り込めないか
- 解釈性の高いモデル、ベクトル化の開発
- フーリエ級数の考え方を応用できないか
- 主要な基底が張るベクトル空間(無限次元のベクトル空間の射影空間の位置付け)の意味づけ(どうすべきか)
- グラフ構造との対応関係
- 概念間のネットワーク構造をベクトルの演算で表現できるか
- 局所的には、ネットワーク構造は行列で表現できるが・・・なんか違う気がする
- 言語のベクトル化に波の性質取り込めないか
-
解釈性が高い汎用時系列モデル
- 実は、ちょっと作って止まっている笑
- TCSI 分解できるようにモデルを構成する
- 言語モデルにも使えると、本当はいいんだけど・・
-
アイデアが出てきたら、随時アップデートしていく
まとめ
- とりあえず、思いつく範囲でアイデアを発散させてみた
- こんな感じで、ゆるくはじめて、ゆるくやっていく笑