九州工業大学の古川研究室です。
例年、弊研究室の新入生は入ってから3ヶ月間の新人研修があり、機械学習の主要なトピックと弊研究室の基盤技術 SOM, 高階SOM, Tensor SOMを上級生の講義から学んできました。
時代が求めるスピードについていくために必要な基本技術・開発力を習得するため、今年度は Workout_Report を始動しました。Workoutの前半はオンライン上の機械学習の資料に取り組みGithub上で評価しあい、後半に基盤技術の講義をおこないます。
今年の新入生は活気にあふれ、忙しい中でも自分なりに考えながら課題に取り組み、そして、前半戦の集大成として学んだことをアウトプットする段階になりました。
ついでに、研究室全体でアウトプットして盛り上げようじゃないかということになりまして、Advent calendar ならぬ Workout calendar として、7/16から夏休み前までの１ヶ月間、研究室持ちまわりで一人ずつ記事をアップロードしていきます。
内容が曖昧であったり表現が多少異なったりする場合がありますので、解説記事というより勉強のメモとして捉えてください。それでもよければ是非、読んでいってください！
この記事はそのWorkout calendarのまとめの記事です。(7/16現時点では未完成)
1日目: イントロダクション
2日目: 交差検定を用いたモデル選択
3日目: Nadaraya-Watson推定 と k近傍法(前編)
4日目: 甲: データ数が入力次元より少ない場合の重回帰分析, 乙: 線形回帰における疑似逆行列の幾何学的解釈
5日目: 高次元空間中の正規分布は超球面状に分布する
6日目: 変分ベイズ法の解説
7日目: Nadaraya-Watson推定 と k近傍法(後編)
8日目: データをシャッフルしてクラスタリングで元に戻すやつ Clustering Tips①
9日目: Pytorchで勾配法
10日目:正準相関分析
新入生の記事Start!!
１週目
11日目: ハードマージンSVMについて勉強したことのまとめ
12日目: 最尤推定を用いた回帰
13日目: 固有値、固有ベクトルの性質(全三部作)
序: 固有値と固有ベクトルの性質, 破: 固有値、固有ベクトルの応用例（二次形式）, Q: 固有値、固有ベクトルの応用例(主成分分析)
14日目: Jupyter notebook ショートカット解説
15日目: リッジ回帰の実装
２週目
16日目: M(マッチョ)VAE
17日目: MAP推定を用いた回帰
18日目: kNNの説明とその実装
19日目: "線形分離可能"のイメージをつかむ
20日目: 3種類の基底関数によるベイズ線形回帰の実装
３週目
21日目: kNNとベイズ誤り確率
22日目: ベイズ推定を用いた回帰
23日目: 機械学習初心者が確率的主成分分析を頑張って理解しようとしてみた
24日目: データ前処理入門編！
25日目:特異値分解と低ランク近似について