ハイパーパラメータチューニング

『モデルのパフォーマンスを最大化するために、アルゴリズムの動作を最適化するために、最適なハイパーパラメータの組み合わせを見つける手法』

これはトレーニングデータ自体の最適化ではなく、モデルがより良い結果を出すためのパラメータ設定の調整にあたります。

例えば、学習率やバッチサイズなどのハイパーパラメータを適切に設定することで、モデルがより精度の高い予測を行えるようになり、汎化性能も向上します。

ベイズ最適化

ハイパーパラメータチューニングでよく使用される手法です。

探索と活用のバランス を取りながら、最適なパラメータを効率的に見つけることができます。

• メリット：短時間で最適なハイパーパラメータを発見できる可能性がある
• デメリット：データが複雑だと最適なハイパーパラメータを見逃してしまう可能性がある

自動モデルチューニング

ハイパーパラメータはモデルの性能に直接影響を与えるため、適切な値を見つけることが重要ですが、この作業は手間と時間がかかります。

SageMakerの自動モデルチューニング機能は、最適なハイパーパラメータを効率的に探索し、モデルの精度や性能を向上させるように調整します。

そのため、モデルの過学習や過少学習を防ぎ、実運用における信頼性を高めることが可能です。

• ハイパーパラメータの最適化を自動化できる
• トレーニングプロセスの効率を向上させる

最も重要な指標

• モデルの精度

を評価するメトリックスになります。

設定

• ハイパーパラメータの範囲
• 評価基準となるメトリックス

再トレーニング

新しいデータセットが頻繁に追加された場合 、モデルのパフォーマンスを維持するために 再トレーニング を行う必要が出てきます。