LoginSignup
202
173

趣味でKaggleを始めたことをきっかけにデータサイエンティストになった話

Posted at

Kaggleアドベントカレンダー2023の19日目の記事です.

TL;DR

  • データ分析未経験からkaggleでどんなことを学んだか
  • 想像していたデータ分析と実業務とのGap
  • kaggleやっていて良かったこと、kaggleでは学ばなかったこと

はじめに

趣味でkaggleを始めたことをきっかけに、現在はデータ分析の仕事をしています。

Muj!rush!というアカウントでKaggleをしています。Kaggle expertです。

kaggleを始めてから3年程度経過したので(この3年間は、地球の公転が早まってんのかってくらい時間が経つのが早かったです)、これまでを振り返ることで、今後kaggleを始めてデータサイエンティストを目指すような方への参考になれば幸いです。

Kaggleと出会ったことで仕事への向き合い方や、今後のキャリアの考え方が変わったので、
僭越ながら一言だけ言わせてもらうと、"kaggleは人生の役に立つ"

※記事にある画像は全てchatgpt4で生成されています

バックグランド

2023年現在、社会人8年目で、去年まではインフラエンジニアでした。

インフラエンジニア時代は、基本的には上流工程の要件定義がメイン業務で、エンジニアとはいえ高度なインフラ技術を持ち合わせているわけではなく、それでいて肩書きは「インフラエンジニア」。
本当にエンジニアと名乗っていいのか?自分は何者なんだ?の答えのない問いが日々ありました。

Kagglerへの道のり

1年目(2021年) ... Kaggleに出会う

2021年の元旦1/1に、何者かになるために、自分の興味があることを「1年間で1000時間以上学ぶルール」を作り、実行しました。1000時間あれば何かしらのプロフェッショナルに近けるんじゃないかという、かなり浅い理由です。

元々データ分析は未経験でしたが、AIは基礎教養として知っといた方がいいのかなと思い、「独学プログラマー Python言語の基本から仕事のやり方まで」や、米国データサイエンティストがやさしく教えるデータサイエンスのためのPython講座など見てpythonは少し学習してました。

その頃にkaggleの存在を知り、データ分析ってなんか賢そうということで、kaggleスタートブックkaggle本などkaggle関連の本を数冊買って、kaggleを始めました。

それでも最初の数ヶ月は、コンペでの具体的な議論や公開コードを見ても、全く理解できませんでした

このため、まずは基礎を身につけるために、kaggleで毎月開催されていたTabular Playground Seriesに参加して、テーブルデータの読み込みから予測までの実装を一通り写経することを繰り返していました。

そんな中、CommonLit Readability PrizeというNLPコンペで、わけもわからず公開コードを適当にコピペしてアンサンブルの重みを変えたら、初めて銅メダルが取れました
当時は、「なんか銅色の丸が付いたけど、何コレ」みたいな感覚で、kaggleの楽しみ方すらわかっていない状況でした。

2年目(2022年) ... Kaggleにハマる

2022年の1月に参加してたJigsaw Rate Severity of Toxic Commentsという、文章が有害かどうかを分類するNLPコンペでたまたま1submitで銀メダルがとれました。その時の模様は昨年のKaggle Advent Calendar 2022のこちらの記事に書いています。

それ以降、NLP関連のコンペに参加して、Kaggle Discussionみて手法を学び、それを実践したらスコアが少しずつ上がっていきました。kaggleにおける'活用'と'探索'を繰り返している時期で、大袈裟ですが、当時は1日単位で新しい知識が身についているような感覚があり、純粋に知らないことを学ぶのがとても楽しかったです。

当時は、仕事終わった直後に体力回復のため2,3時間寝て、夜に起きてkaggleやって深夜の3,4時に寝る、という生活を数ヶ月続けてました。コンペ終盤は学習が終わる時間帯に夜中に起きて、別の学習を回してまた寝る、というモデルの学習時間に生活リズムがコントロールされている状況でした(既にAIに人間の生活が支配されてる、、)

当時の仕事はデータ分析やプログラミングとは一切関係なかったので、まだまだ実力不足と思いながらも次第に仕事でデータ分析できたらいいなと思い始めました。このため、社内制度を使って異動希望を出したところ、無事に翌年から社内異動することが決定しました。

ちなみに、2年目もインプット1000時間ルールは継続実行していました(とはいえkaggleのdiscussion見る時間とかも含む)

3年目(2023年) ... データサイエンティストになる

2023年2月からデータサイエンティストになりました。
とにかく、世の中のKagglerに恥じないように頑張る、というモチベーションでした。
スクリーンショット 2023-12-19 22.26.01.png

業務では、レコメンドなどを用いてユーザの行動変容を促す機械学習プロダクトなど、複数の分析チームの一員になりました。
それまで、1人でPC画面の向かってデータについてあれこれ考えていたので、配属当初は生身の人間とデータ分析に関する会話を出来てるだけでとても楽しかった記憶があります。

また、プロダクトからどんな価値を出していくか、そのためにAPIのインターフェイスをどう設計するか、コールドスタートなどの機械学習の普遍的な課題対処というようなことを日々検討しており(データサイエンティスト、アナリスト、機械学習エンジニア全部をやるイメージ)

商用化前のプロダクトについては、モデルの学習にはどんなデータが必要か、どれくらいデータがあればいいか、どうやって効果検証するか、なども考えます。

データ分析コンペへの参加も継続していて、KDDCUP2023(データマイニング国際会議であるKDDのワークショップ)に会社として参加して、幸運にも9位入賞してアメリカ現地発表(ポスター)と論文投稿を行うことができました。また、位置情報系の国際会議であるSIGSPATIAL2023のワークショップ形式コンペ(HuMob Challenge 2023)に会社の同僚とプライベートで参加して、3位入賞してドイツ現地にて発表する経験が出来ました(優秀な会社の後輩のおかげ)。
その他、kaggleでもOTTO, 火山コンペなどにも参加してNLPコンペ以外でも多く学ぶことができました。

ちなみに、3年目はインプットルールは撤廃しました(既に学ぶ習慣がついていたため)

想像していたデータ分析と実業務とのGap

  • データが生み出す価値を本気で考える。現場の課題に対してデータを使ってどんな価値を創れるを本気で考える経験もできました。

  • どんなデータを使うかは自分次第。社内データウェアハウスにあるデータを探すところから行う必要があります。もちろん、データ活用時には適切な社内決済をとります。

  • モデリングはデータサイエンスの一部。こちらは、kaggle始めた時からよく耳にしていたので、実際の業務でもモデリング検討時間は限られていますが、想定内でした。

  • Kaggleの外にも優秀なデータサイエンティストはたくさんいる。当たり前ですが、Kaggleの外にも優秀なデータサイエンティストがいるので、その方達と分析議論できるのは、とても大事な経験になっています

総じてポジティブなGapしかなく、思い切って社内異動して本当に良かったと感じています。

Kaggleやっていて良かったこと

  • 知らないことも学べばいいだけマインド。多くのkagglerが、当たり前のように高度なモデルや手法を使いこなすしているので、自分もこれまで知らないモデルや手法であっても、特にハードルを感じずに実装を試すようになりました。結果的に自然とできることの幅が広がったように思います。
  • 常にこれでいいかを自分に問い続ける。明日から強いKagglerが同じチームにきても恥ずかしくない精度か?を問うようになります。
  • 課題やデータセットごとのベースラインや手法をアクセスできるようになる。上位解法を覚えてなくても参照先はわかる状態。レコメンドならこのコンペ、ベーシックなNLPならあのコンペ見ればきっと有益な情報あるはず、など。

Kaggleでは学ばなかったこと

  • AWSなどのクラウド知識。クラウド知識は割と必須の知識になるかと思うので、業務の前に個人アプリ開発などを行い基礎知識は身につけておけば良かったと思いました(今からでも遅くないことは内緒です)
  • Gitなどチーム開発の知識。ソロ参加が多く必要性も感じなかったので仕事を始めてから学ぶようになりました(Kaggleでもチーム参加などで学ぶ機会はあると思います)
  • 精度向上に対する費用対効果。業務を始めて、kaggleでもコンペ初期ベースラインと最終1位のスコア差や実装量などが気になるようになりました。

でも、大丈夫です、「知らないことも学べばいいだけ」なので。

最後に

Kaggleを始めたことで、自分の趣味を仕事にすることができ、キャリアについても自ら切り開いていくものだと気づき、実行できました(それまでは、自発的に手を挙げて社内異動するような性格ではなかったです)

Kaggleを始める前に望んでいた、何者かになれたかはわかりませんが、データ分析を続けていくことで、きっと何者かになれるんじゃないかという希望があります

Kaggleも業務もまだまだ発展途上なので、これからも成長して行きます!
(2024年はKaggle Master目指して頑張ります)

202
173
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
202
173