はじめに
自分が機械学習の実務で一番きまり悪かったのは、精度が出なかったときではない。レコメンドのモデルを改善して数字が上がった直後、レビューで「その正則化がなぜ効いたのか」と聞かれて何も言えなかったときだ。ハイパーパラメータを振って良かったものを採用しただけだったので、説明のしようがなかった。
その場は乗り切ったが、同じことが何度も起きた。学習が不安定なとき、どこを疑うべきか勘が働かない。論文を読んでも式のところで目が滑る。ライブラリの使い方を解説した記事は山ほどあるのに、その一段下の層へ降りる導線は意外と細い。
結局、腰を据えて教科書を読み直すしかなかった。幸いこの分野は、著者自身が原稿をWeb公開している定番書が多い。無料で読み始めて、腹に落ちたものだけ紙やKindleで手元に置く、という進め方ができる。
今回はそうやって自分が実際に手を動かしながら読んだ5冊を、数学の土台 → 確率的モデリング → 学習理論 → 応用の広がり → 強化学習という順で並べた。上から順に読む必要はない。今困っているところから入るのが早い。
① Mathematics for Machine Learning — Marc Peter Deisenroth, A. Aldo Faisal, Cheng Soon Ong
Deisenroth はロンドンで機械学習と確率的推論を研究してきた研究者で、Ong はオーストラリアの Data61 で統計的機械学習を長く手がけている。大学の講義で使う前提で書かれた教科書だ。
構成が素直で、前半が線形代数、解析幾何、行列分解、ベクトル微分、確率と統計、最適化。ここまでで道具箱を作る。
後半は、その道具を線形回帰、主成分分析、サポートベクターマシン、混合ガウスモデルの4つに当てていく。前半のどの節が後半のどこで使われるかが明示されているので、数学の章を読む動機が切れない。
自分に効いたのは行列分解の章だった。固有値分解と特異値分解が、次元削減や最小二乗の話にそのまま繋がっていく流れを追えたおかげで、PCAが「分散最大化」と「再構成誤差最小化」の両面から見える理由がやっと納得できた。高校レベルの微積分は前提なので、そこが不安なら少し補いながら進めるといい。
こんな人に: 論文の式変形で手が止まる感覚を、そのまま放置したくない人。
② 確率的機械学習：入門編 I ―基礎と線形モデル― — Kevin P. Murphy
著者の Murphy は Google DeepMind のリサーチサイエンティストで、以前から確率的機械学習の分厚い教科書で知られている。その全面改訂版の日本語訳で、原著の第1部にあたる範囲が分冊で出ている。
軸は一貫していて、確率モデルとベイズ決定理論のレンズで機械学習全体を眺める。分類、回帰、正則化、汎化といった話題が、別々のテクニック集ではなく同じ枠組みの中の変種として並ぶ。
線形モデルまでを扱う巻なので、深層学習の細かい話はまだ出てこない。そのぶん確率分布の扱い、情報理論の基礎、統計的推定の考え方に紙面が割かれている。ここが曖昧なまま先に進むと、後で必ず戻ってくることになる。
図が非常に多く、原著側では図を生成した Python のノートブックが公開されている。読むだけで終わらせず、分布のパラメータを自分で動かして形が変わるのを見ると理解が一段深くなる。日本語で読めるのも大きい。
こんな人に: 個別の手法を点で覚えている状態から、確率の言葉で一本に繋ぎたい人。
③ Understanding Machine Learning: From Theory to Algorithms — Shai Shalev-Shwartz, Shai Ben-David
Shalev-Shwartz はヘブライ大学の教授で、自動運転の Mobileye の技術責任者も務める。Ben-David はウォータールー大学で計算学習理論を研究してきた。理論側から実務側へ橋を架けようとしている本だ。
前半はPAC学習、一様収束、VC次元、No Free Lunch定理。「どういう条件が揃えば学習できると言えるのか」を定義から積み上げる。
後半は正則化と安定性、確率的勾配降下法、サポートベクターマシン、カーネル法、ブースティング、ニューラルネットへと降りてくる。理論だけで終わらず、アルゴリズムの形まで持っていく構成になっている。
自分にとっての収穫は、汎化について語る語彙が増えたことだった。それまで過学習の話を「データを増やす」「正則化を強める」という経験則で処理していたが、仮説クラスの複雑さとサンプル数のトレードオフとして見られるようになると、実験の設計そのものが変わる。証明は短めに整理されているとはいえ数学的な記述なので、①を通した後に読むと負荷が下がる。
こんな人に: 汎化性能の議論を勘と経験から一段引き上げたい人。
④ Probabilistic Machine Learning: Advanced Topics — Kevin Patrick Murphy
②の続編にあたる上級編で、著者は同じ Murphy。研究者と大学院生を想定した内容になっている。
扱う範囲が広い。変分推論とMCMCによる近似推論、状態空間モデル、グラフィカルモデル、深層生成モデル、因果推論、そして強化学習まで入る。1000ページを超えるので、通読する本として構えると確実に挫折する。
自分は必要になったテーマの章だけを開くリファレンスとして使っている。拡散モデルの目的関数がどこから出てくるのかを追いたいとき、生成モデルの章から入って必要な推論の節に戻る、という読み方が現実的だ。
因果推論の章がまとまっているのもありがたい。A/Bテストが回せない状況で施策の効果を見積もる話は業務でよく出てくるので、確率モデルの延長として整理された記述は素直に頭に入る。
こんな人に: 生成モデルや因果効果の推定を仕事で扱い始めて、断片的な知識を体系に載せ直したい人。
⑤ 強化学習（第2版） — Richard S. Sutton, Andrew G. Barto
Sutton と Barto は強化学習の分野をほぼ作った二人で、2024年のチューリング賞を受賞している。この第2版は分野の標準教科書として長く読まれている。
多腕バンディットから始まり、マルコフ決定過程、動的計画法、モンテカルロ法、TD学習、そして関数近似と方策勾配へ進む。順序に無駄がなく、次の手法が前の手法の何を解決しているのかが毎回はっきりする。
主要なアルゴリズムに擬似コードが付いているので、読みながら小さな環境で実装できる。自分はGridWorldで写経しながら進めたが、価値関数の更新式を自分で書くと、後で方策勾配の話が出てきたときの理解度がまるで違った。
LLM周りの仕事をしているなら、実利も大きい。RLHFやGRPOの解説を読むときに出てくる報酬、価値関数、方策、アドバンテージといった語がここで全部きちんと定義される。用語の意味を推測しながら論文を読む状態から抜け出せる。
こんな人に: LLMの学習手法まわりの議論に、土台のある形で入りたい人。
まとめ
| ステップ | 読む本 | 得られるもの |
|---|---|---|
| 土台 | Mathematics for Machine Learning | 論文の式を追える線形代数と最適化 |
| 全体像 | 確率的機械学習：入門編 I | 確率モデルで手法を横断的に捉える視点 |
| 深掘り | Understanding Machine Learning | 汎化を定量的に語る学習理論 |
| 拡張 | Probabilistic Machine Learning: Advanced Topics | 生成モデル、因果、近似推論のリファレンス |
| 実践 | 強化学習（第2版） | 実装できるレベルのRL基礎 |
今の課題から1冊選ぶなら、こう考えるといい。
- 数式で目が滑る、論文の付録が読めない → Mathematics for Machine Learning
- 手法を点で覚えていて繋がらない、日本語で体系を通したい → 確率的機械学習：入門編 I
- 過学習や汎化の議論が経験則止まり → Understanding Machine Learning
- 拡散モデルや因果効果の推定が業務に入ってきた → Probabilistic Machine Learning: Advanced Topics
- RLHFやエージェントの学習まわりを理解したい → 強化学習（第2版）
5冊すべて原著が著者サイトで公開されているか、無料で読める形で出ている。まず数章を画面で読んで、手が動く感覚があったものだけ手元に置く。それが一番外れが少ない買い方だと思っている。