LoginSignup
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

@Ringa_hyj(Ringa hyj)

最小二乗法と正規表現(備忘録)

Posted at

係数βを使った線形モデル表現

image.png

コスト関数Q()は残差の総和を表す

image.png

コスト関数について

凸関数のコスト関数を微分して0とおく

image.png

これを少し変形したものが正規方程式と呼ばれる

image.png

係数βにかかるのはXの内積
もしXの内積が正則(逆行列を持つ)ならば

image.png

として係数βが求まる。
これをβの推定値とする

βの推定値をつかって

モデルはYを完全に表現できない。
あくまで誤差を最小化するもの

しかしひとまずYと等価とする

image.png

モデル(予測)と実測値の間の残差

image.png

として表現される

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?