一枚目の画像がハイパーパラメータをチューニングした後の学習曲線で、二枚目がする前の曲線です。チューニングする前を見るとテストデータとトレーニングデータに乖離があるので過学習気味と言えるのでしょうか？それともテストスコアが横ばいなので学習不足なのでしょうか？
またチューニング後は完全に学習不足だと思いますが、ここでとれる策は特徴量を増やすのとモデルの複雑さを上げると見ましたが、今lightbgmを用いているのでこれ以上複雑度上げるとなるとスタッキングなどになってくるのでしょうか？
よろしくお願いします。
そもそもなんですけど，これはどのぐらいの値の分類/回帰をやるモデルですか？また，目標の性能はどのぐらいですか？
2値分類であれば(特にTest Scoreにおいて)Random Choiseと変わらない性能になっている1と思うのでチューニング前後で過学習から性能不足になったと考えました．ikeidさんの考えで当たっていると考えます．
これ以上複雑度上げるとなるとスタッキングなどになってくるのでしょうか？
どのモデルもRandom Choiseと同じスコアになるのであればスタッキング等のアンサンブル学習に展開しても意味ないと思います．
01の2値分類の場合にデータセット0と1の比が1:1だった場合，ランダムに選んだ場合のScoreと一緒です．例え3分類だとしてもデータセットの3種の比率が49:49:2だったらScoreは0.5近くなります．データセットの比率も併せて教えていただけると幸いです． ↩
@ikeid
Questioner
