はじめに

こんにちは！理工学部情報系学科で学生をしているjinkmn(X)と申します。

今回は、私が1期生として参加していたLAIMEという機械学習団体でのプロジェクト、 Kaggle Dojoでの半年間の活動と、目標だったKaggle銅メダルを獲得するまでの体験記をまとめました。

「Kaggleに興味はあるけど、何から始めればいいか分からない…」「1人でコンペを走り抜ける自信がない…」という学生の方、そしてLAIME Kaggle Dojo 2期生以降への応募を迷っている方の背中を押せるような記事になれば嬉しいです！

1. LAIME Kaggle Dojoとは

LAIMEとは、国内の学生を中心としたAI・機械学習の勉強コミュニティです 。そのLAIMEが主催する「Kaggle Dojo」は、トップレベルのAI技術獲得を目指す学生に向けて、Kaggle等のコンペで勝つための能力を身につけるための半年間のプログラムになっています。最大の特徴はKaggleでGrand MasterやMasterとなった実力を持った方々がメンターとなってサポートしてくれる点にあります。(メンター: kamiさん、daikonさん)

2. 当時のスキル感と志望動機

Dojoに参加する前、某AI系研究室が提供している講座などを中心に機械学習・深層学習のモデルについて勉強し、軽い実装経験と知識を持っていました。これをきっかけにSignateのコンペに参加したり、AI系のスタートアップでインターンをしていました。

ただ、知識としては少しずつ増えてきたものの、実戦的なデータ分析や、コンペで戦えるだけの確固たる実装力があるか？ と問われると全く自信がありませんでした。
持っている知識を実際に実装する経験とコンペでメダルを取れるような実力を求めてこのプロジェクトに応募しました。参加してみて、改めて自ら実装し、知識をアウトプットする大切さを学びました。

3.Dojoでの具体的な活動

活動内容

Dojoの期間は半年間。カリキュラムは非常に実践的でスピード感がありました。
週に1度メンターと他の活動メンバーで進捗報告、質問を行うミーティングがあります。これに向けて各月でテーマとなる過去コンペに取り組みます。
過去コンペが勉強になることはわかっていたんですが、一人でやるとなるとやる気が出ず... 他の活動メンバーと一緒に実施できたのでモチベーションを持って取り組むことができました。

一期生で実施した過去コンペは以下の通りでした。

月	コンペ
11月	画像コンペ
12月	テーブル＋自然言語処理（NLP）コンペ
1月	系列データコンペ
2月	修了試験（実際のコンペで銅メダル以上を狙う！）

メンターの方々が考案してくださったカリキュラムであり、それぞれの月で異なるモデルやソリューションが見られたのでとても勉強になりました。11月の画像コンペで勉強したことは、Kaggleで当時行われていた画像コンペに参加した際にとても役立ちました。少しハードに感じる方もいると思いますが、必要な方はPytorchの基礎から教えていただけるので、安心してください。

学業やインターン、バイトとの両立

自分は恥ずかしながらある程度の単位を残していたため、大学の授業を受けつつ、他にもバイトなどを両立しながらの活動となりました。大学に夜まで残って実装を行なったり、夜寝てる間に学習を回したりすることもありました。しかし、自分はそこまでハードなスケジュールではなかったように思いましたし、この活動自体自分の成長を感じることができて、とても楽しいと思えました。
一週間平均10時間ほどを捻出して活動していた気がしますが、もっと時間をとれれば、より実力がついていたと思います。
また、自分は1月に多くのテストを受けなければならなかったためKaggle Dojoではあまり活動できませんでしたが、こちらについては快く了承してくださいました。

特に良いと感じたこと

1. Kaggle Grand Master, Masterからのアドバイスが何より貴重でした。自分の実装へのアドバイスや様々なソリューションはもちろん、コンペの選び方からどのようにコンペに取り組むのか、コンペでどのようにしてメダルを取るかまで教えていただけました。このプロジェクトに参加したいと考える人の多くは「コンペに参加したいが、何から手をつけたらいいのかわからない」「どうやったらメダルを取れるのかわからない」といった悩みを持っていると思います。そのような人たちは絶対に参加するべきです！

2. メンターの方々が毎週ミーティングを実施してくださるため、一週間のうちに進捗を作り、報告しなければなりません。これによって継続的に活動を行い続けることができました。また、毎週のように生まれる疑問も一週間のうちに解決できたのもとても良かったです。

3. 他の大学や年代の方とのコミュニティに参加できたのもとても良かったです。同じ学年、大学の人以外の方々と関われたことは刺激になりましたし、モチベーションになりました。将来的にこのコミュニティでチームとしてコンペに参加することもできますし、自分はぜひ組めたらと思っています。（他のメンバーが承諾してくれるかは分かりませんが）

4.銅メダルの獲得

11月に画像の過去コンペでの勉強を終え、自分は10月末ごろから1月末まで開催されていたKaggleの画像コンペ、通称草コンペ(https://www.kaggle.com/competitions/csiro-biomass) に参加しました。
課題の設定が比較的シンプルであり、自分の計算資源でも戦えると思ったためこの機会を逃すまいと参加しました。
しかし、コンペ序盤は勉強したことを活かして、自分で様々なモデルやソリューションを試していましたが、まだまだチューニング能力をはじめとする能力が未熟であったため、自分で作成したモデルでは上位の方々と真剣勝負できるほどのスコアは出せませんでした。
それでも教わったメダルの取り方を実践し、一緒に参加した友達の協力もありなんとかメダルを獲得することができました。
はじめはコンペの選び方、始め方もわからなかったところから実際にメダルを獲得できたのはとても嬉しかったです。

5.Kaggle Dojo修了後

1期生としてのカリキュラムは修了しましたが、これで終わりではありません。今後は2期生に向けた準備や、Dojoのメンターとしても関わっていく予定です。機械学習に関する学生団体の運営に携われるのもとても貴重な経験だと思いますし、これもKaggle Dojoのいいところだと考えています。

6.まとめ

今後は1プレイヤーとして、Kaggleに参加して他にもメダルを獲得していきたいですし、ここで得た経験をインターンでの活動や大学での研究活動にも活かしていけたらと考えています。
改めて運営してくださったメンターの方々、他の活動メンバーに感謝します。
ぜひKaggle Dojoに参加してください！
最後まで読んでいただきありがとうございました。