はじめに

以下のkaggle コンペについての覚書です。

目次

問題設定
お手本になるノート
やりたいこと
参考文献

問題設定

タンパク質(? DNAかも?)のアミノ酸配列からタンパク質の機能を予測したい。

[予測元]
アミノ酸配列はFASTA形式というのを使う。
以下の例はkaggleで提供されているデータベースの中のID P20536 というタンパク質のアミノ酸配列を示している。

>P20536 sp|P20536|UNG_VACCC Uracil-DNA glycosylase OS=Vaccinia virus (strain Copenhagen) OX=10249 GN=UNG PE=1 SV=1
MNSVTVSHAPYTITYHDDWEPVMSQLVEFYNEVASWLLRDETSPIPDKFFIQLKQPLRNK
RVCVCGIDPYPKDGTGVPFESPNFTKKSIKEIASSISRLTGVIDYKGYNLNIIDGVIPWN
YYLSCKLGETKSHAIYWDKISKLLLQHITKHVSVLYCLGKTDFSNIRAKLESPVTTIVGY
HPAARDRQFEKDRSFEIINVLLELDNKVPINWAQGFIY

sp|P20536|UNG_VACCC というのはデータの出典元である UniProtKB の中でのID。sp から始まっていたら実測結果あり、tr から始まっていたら計算による予測のみ。
IDの後にはsp-シリーズのみ慣用名とかが書いてあり、その下の行がアミノ酸配列。

[予測対象]
予測したいものは遺伝子オントロジー(GO)。
タンパク質の機能と GO term が一意に紐づいている。
GO term は大分類、小分類みたいな順序関係が入った半順序集合。
obonet っていう python ライブラリで networkX 形式で見られる。グラフは有向非巡回グラフ(DAG)となる。

やることは、FASTA形式のアミノ酸配列を与えられて、発現するGO term とその発現確率を求めること。

お手本になるノート

中の文章からのコピペ↓

学習済みのタンパク質機能予測モデル（T5、ProtBERT、EMS2）から埋め込みベクトルを収集する。
train_termsファイルからラベルを生成：全タンパク質セットで上位600個の頻出GO用語を考慮し、K個のGO用語がタンパク質に含まれる真の確率（0または1）を示す長さKのスパースベクトルを各タンパク質について生成する。
Protein IDとエンベッディングを扱えるPytorch Datasetクラスを作成する。
予測用のPytorch Modelクラスを作成：ここではMultiLayerPerceptronとConvNN1d Networksを検討。
重みとバイアスパッケージ(Wandb)を使って、F-1メジャーを使った交差検証を行い、ハイパーパラメータのチューニングを行う。

このノートでは目的変数のデータは自分で作ることになっているけど、同じものを作ってくれている人がいるのでそれを使えばいい。
https://www.kaggle.com/datasets/siddhvr/train-targets-top500

やりたいこと

現状 GO terms の親子関係を活かせていない。「子の GO term をもつ ⇒ 親の GO term をもつ」となるはずだから、親の GO をもつデータに制限すれば子の GO を持つ割合も上がって予測しやすくなりそう。
ハイパラチューニングができる気がしない。AutoMLで何か使えないか探す。
一度embeddingをしたから見えなくなっているけど説明変数に外れ値がある。異様に長い配列とか、ぜんぜん出現しないアミノ酸が登場するとか。ここらへんのお掃除もちゃんとしたほうがいいと思う。