0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

機械学習の数学と実装を固める5冊

0
Posted at

はじめに

自分が機械学習の仕事を始めた頃、手元にあったのは断片的なチュートリアルの寄せ集めだった。写経すればモデルは動く。精度もそれなりに出る。ただ、なぜその損失関数なのか、学習率を下げると何が起きるのか、聞かれても答えられなかった。

決定的だったのは、社内レビューで「この改善幅は偶然の範囲に入らないのか」と質問された日だ。検証データでのスコア差を自信満々に報告した直後、サンプル数と分散の話を一切していないことに気づいた。その場では曖昧に濁した。帰りの電車で、自分が積み上げてきたものが想像よりずっと薄いと自覚した。

そこから読む順番を変えた。先に手法を広く浅く眺めて地図を作る。次にデータの扱いと数学で土台を固める。最後にアルゴリズムの中身と運用に降りていく。この順で読み直したら、同じ本が前より速く読めるようになった。

この記事では、その過程で実際に効いた技術書を5冊挙げる。チュートリアル動画では埋まらなかった穴を埋めてくれたものだけを選んだ。並べ方は「全体像 → データと数学 → アルゴリズム内部 → 本番運用」になっている。

① 機械学習 100+ページ エッセンス — Andriy Burkov

Amazonで見る

著者のAndriy Burkovは機械学習の博士号を持ちながら、長く企業でMLチームを率いてきた実務家だ。研究者の語彙と現場の判断基準が両方入っているのが特徴になる。

中身は教師あり学習の基本から、線形モデル、決定木、SVM、ニューラルネット、評価指標、特徴量エンジニアリングまでを一気に通す。各トピックの説明は短い。それでも「何のための手法で、どこで壊れるか」は落とさずに書いてある。

数式は出てくるが導出はほぼ省かれている。だから入門書として最初に開くと物足りない。逆に、一度触ったことのある手法を整理し直す用途ではかなり強い。

自分は面接の準備でこれを使った。知識の棚卸しをしたとき、説明できない項目がページ単位で浮かび上がってくる。穴の場所が分かるので、次に読む本も決まる。

こんな人に: 手法をいくつか触った経験があり、頭の中の地図を一度作り直したい人

② データサイエンスのための統計学入門 第2版 — Peter Bruce, Andrew Bruce, Peter Gedeck

Amazonで見る

著者のPeter BruceとAndrew Bruceは統計教育の会社を立ち上げた人物で、Peter Gedeckは創薬分野のデータサイエンティストだ。教える側と使う側の視点が混ざっている。

扱う範囲は探索的データ分析、サンプリング分布、ブートストラップ、仮説検定、A/Bテスト、回帰、分類、そして教師なし学習。統計の教科書にありがちな証明の連続ではなく、データサイエンスの現場で使う順に並んでいる。

RとPythonのコードが並記されているので、読みながらそのまま手を動かせる。自分はブートストラップと順列検定の章を何度も開いた。分布の仮定に自信が持てないとき、リサンプリングで押し切る判断ができるようになったのは大きい。

p値や有意性の扱いについて、誤用のパターンまで書いてあるのも実用的だ。冒頭に書いたレビューでの失敗は、この本を読んでいれば起きなかった。

こんな人に: 施策の効果やモデルの改善幅を、自分の言葉で検証できるようになりたい人

③ 機械学習のための数学 — Marc Peter Deisenroth, A. Aldo Faisal, Cheng Soon Ong

Amazonで見る

著者陣はImperial College Londonなどで教える研究者で、機械学習に必要な数学だけを切り出して教える講義から生まれた本だ。

前半が線形代数、解析幾何、行列分解、ベクトル解析、確率、連続最適化。後半はその道具を使って線形回帰、主成分分析、ガウス混合モデル、SVMを組み立て直していく。前半の投資が後半で回収される構成になっている。

難易度は高い。通読を目標にすると途中で止まる。自分は論文で引っかかった記号から逆引きする使い方に切り替えた。固有値分解と特異値分解の章だけで、PCAの理解が別物になった。

数式を読む体力がつくと、新しい手法の論文を読む速度が変わる。ここが一番の見返りだと思う。

こんな人に: 論文や実装の数式で手が止まる経験を減らしたい人

④ 最適化アルゴリズム — Mykel J. Kochenderfer, Tim A. Wheeler

Amazonで見る

著者はスタンフォードで意思決定アルゴリズムを研究しており、航空機の衝突回避システムなど実運用の最適化に関わってきた。

内容は一次手法から準ニュートン法、直接探索、確率的手法、進化計算、ベイズ最適化、多目的最適化、制約付き問題、代理モデルまで。図とコードが豊富で、各手法がどう振る舞うかを目で追える。

学習というのは結局のところ最適化なので、この本を読むと勾配降下法の周辺に何が広がっているのかが見える。自分はハイパーパラメータ探索でグリッドサーチしか選べなかったが、ベイズ最適化の章を読んで探索コストの考え方が変わった。

機械学習の本としては少し外側にある。ただ、学習が収束しない原因を切り分けるときには、この視点が一番効く。

こんな人に: 学習が進まない原因をアルゴリズム側から説明したい人

⑤ Practical MLOps: Operationalizing Machine Learning Models — Noah Gift, Alfredo Deza

Amazonで見る

Noah Giftは複数の大学でクラウドとMLOpsを教える実務家で、Alfredo Dezaはインフラ寄りのエンジニアとして著作を重ねてきた。

テーマはモデルを動く状態で届け続けること。コンテナ化、CI/CD、主要クラウドのML基盤、推論エンドポイント、モニタリング、エッジ推論、シェルスクリプトやコマンドラインの作法まで広く押さえる。

自分が助かったのはモニタリングとロギングの章だ。デプロイは一度で終わるが、監視は運用が続く限り終わらない。何を計測対象にするかを決める基準が書いてあるのは貴重だった。

英語版で、クラウドサービスの画面や仕様は変わっていく。拾うべきは手順よりも設計の型だと割り切って読むのがいい。

こんな人に: 学習済みモデルを本番で動かし続ける責任を持ち始めた人

まとめ

ステップ 読む本 得られるもの
全体像を作る 機械学習 100+ページ エッセンス 手法の地図と自分の穴の位置
データを疑う データサイエンスのための統計学入門 検証と推定の作法
理論に降りる 機械学習のための数学 数式を読む体力
中身を開ける 最適化アルゴリズム 学習が動く仕組み
本番に出す Practical MLOps デプロイと監視の型

今の課題から1冊を選ぶなら、こう考えるといい。

  • 知識が断片的で優先順位がつかない → 機械学習 100+ページ エッセンス
  • 施策の効果やスコア差を説明できない → データサイエンスのための統計学入門
  • 論文の数式で毎回止まる → 機械学習のための数学
  • 学習が収束しない理由を追えない → 最適化アルゴリズム
  • モデルは作れるが運用で詰まる → Practical MLOps

5冊すべてを一度に買う必要はない。詰まっている場所の1冊を選んで、必要な章だけ読む。それを繰り返すうちに、残りの4冊も自然に読める状態になる。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?