単純な線形回帰モデルの回帰係数を3つの言語で推定した結果

やったこと

• 線形回帰モデルの原理について、よさそうな記事を資料中で紹介した。
• 線形回帰モデルによる回帰係数を、python、R、Juliaの3言語で推定した。
  • データセットはおなじみいつもの安心と信頼と実績のirisを使った。
• 推定方法は各言語でよく用いられているライブラリやパッケージによるもののほかに、行列計算用ライブラリを用いた数値計算によるスクラッチ版がある。
• 記述には.Rmdを用い、ソースをgithubにあげるほかRPubsで公開した。

参考文献

1.はJuliaの行列計算についてわかりやすい記載をされていました。2.は、線形回帰モデルについてよい記載をしているサイトのひとつです。参考になる記事をありがとうございました。

1. https://zenn.dev/hyrodium/articles/3fa3882e4bca04#2%E3%81%A4%E3%81%AE%E3%83%99%E3%82%AF%E3%83%88%E3%83%AB%E3%81%AE%E7%A9%8D
2. https://qiita.com/fujiisoup/items/e7f703fc57e2dfc441ad

関連サイト

1.は筆者による、今回作った.Rmdファイルとなっています。2.は、1.をRPubsでみられるようにしたものです。

1. https://github.com/yaminabeworks/qiitakiji/blob/main/ols.Rmd

2. https://rpubs.com/yaminabeworks/ols

感想

• 各言語によるデータの取り出し方は筆者が忘れていることもあり、思いのほか時間をとられた気がする。
• さすがに線形回帰モデルだけだと寂しいので、よりこじらせた線形モデルや加法モデルくらいはまとめておきたい。

次にやる、この記事に関連すること

• まずは一般化線形モデルについてスクラッチ実装をしたい。
• Rの数値計算に関する本でスクラッチ実装をしていた気がするので、それを参考にする予定です。

次にやる、必ずしもこの記事と関連しないこと

• ベイズ統計学
  • ちょっと時間かかりそうです。
• 情報検索分野
  • 今bm25の計算等をまとめているので時間かかりそうです。