おはようございます。Hikari30です。
先日kaggleで開催されたsanta-2024に参加し16位を獲得したので、備忘録用に記事を書いておこうと思います。
自己紹介
大阪大学2回生です。
普段、atcoderもしていて、ヒューリスティックレーティングは青色です。
アルゴリズムは水色です。
コンテストに参加したきっかけ
大阪大学のPython会の先輩からおすすめしていただいたのをきっかけに興味を持ちました。
初めてコンペの概要を見たときはLLMとヒューリスティックの融合問題でLLMが得意ではなかったため敬遠していました。
しかし、Xで盛り上がっていたことや、LLMに関する知識がそこまでウェイトを占めないということがわかり本腰を入れて参加するようになりました。
結果的には12月の中盤からの参加になりました。
コンテストの取り組み
初めは以下の公開コードを参考にして自分でコードを回していました。
日本語で解説がかかれているので非常に理解しやすかったです。
それ以降、近傍の作成方法を変更したり、温度管理などを独自で工夫していました。その結果、50位前後までLB順位を上げることに成功しました。
そして、ある日ディスカッションで話していた外国人から一緒にチームを組まないか？という連絡がありました。とてもうれしかったです。
その後、メンバーが徐々に増えて最終的には5人になりました。
私はチームの中でのSAのアルゴリズム管理や温度調整などを行っていました。
特にid5でのSAでは解空間が非常に膨大でSAを使えるように調整するのが難しかったです。
私たちのチームでは初期解を人手で探してSAに突っ込むということをしていました。
おそらく、これが敗因になってしまったと思っています。
というのも、本コンペでは"最適解"（現在判明している局所最適解のことを指します）を見つけなければ金メダルが取れないコンペであったため、やみくもに探索していたのは無理があったと思います。
途中アルファベット順の解がスコアが低くなる傾向が存在しているということに気づくことができましたが、それ以上探索することができなかったのが悔やまれます。
また、計算資源のリソース勝負になっていた側面があるので、その面でも厳しかったです。
上位の方はキック付きのBeamSearchが多かった記憶です。
来年もリベンジしたいと思っています。
最後に
最後まで5人全員熱意を持って取り組みました。
これはリーダーのマネジメントがうまかったと思います。
チームメイト全員にも感謝しています。
ここで得られた知見に関しては業務やAHCで生かしていきたいと思います。
また、私たちのチームのコードが終了一週間前に事故で公開状態になってしまい。それをうまく実行することである程度の解が得られる状況になってしまったことにお詫びします。