はじめに
はじめて業務で画像分類のモデルを任されたとき、自分はKerasのチュートリアルをコピペして動かし、精度が出ないまま一週間を溶かした。層を増やす、学習率を変える、データを増やす。思いついた順に試しては戻し、なぜ良くなったのか悪くなったのかを説明できない。レビューで「この変更の根拠は?」と聞かれて何も言えなかったのが、今でも地味に効いている。
そのあと原因を振り返ると、詰まっていた場所は三つに分かれていた。手元のデータをまともな形に整える力、ネットワークの挙動を自分の言葉で説明できる感覚、そして最適化や正則化が何をしているのかという理屈。ネット記事を拾い読みしていた頃は、この三つが混ざった状態で頭に入っていた。
Qiitaや公式ドキュメントは速いが、断片的になりやすい。自分の場合、同じテーマを一冊通して読んだときにようやく「どこまでが決まりごとで、どこからが設計判断か」の線が見えた。しかも紙やPDFで手元にあると、半年後に同じ問題へ戻ってきたときに該当章を引き直せる。学習素材と参照資料を兼ねるのが書籍の強みだと思う。
今回紹介するのは3冊だけだ。網羅的なリストは検索すればいくらでも出てくるので、自分が実際に詰まった順序に沿って並べ替えた。手を動かして深層学習の感覚を掴む本、データ処理の足腰を鍛える本、最後に理論へ潜る本という流れである。どれも日本語版があり、コードか数式のどちらかで具体的に書かれている。
① Pythonによるディープラーニング — François Chollet
著者のFrançois CholletはKerasの作者で、長くGoogleでディープラーニングのフレームワーク開発に携わってきた人物だ。ライブラリを設計した本人が、そのライブラリで何をどう考えて書くかを説明している。
内容は画像分類から時系列、テキスト生成、生成モデルまで一通り触る。特徴は、数式を前に出さずPythonコードで概念を説明していく点にある。たとえば過学習の話は、学習曲線が開いていく実例を見せたうえでドロップアウトや正則化を入れ、どう変わるかをそのまま観察させる構成になっている。
自分が助かったのは、各章のコードに行単位の説明が付いていることだ。モデル定義の一行ずつが何のためにあるのか追えるので、写経が理解に変わる。前処理からモデル構築、評価までの一連の型が身につくため、読み終えた直後から自分のデータに置き換えて試せた。
第2版ではKeras APIの書き方が整理され、Transformer系の話題にも踏み込んでいる。注意点としては、Pythonの基本文法とNumPyの配列操作をある程度知っている前提で進む。そこが怪しいなら次の②を先に開いたほうが速い。
こんな人に: 数式より動くコードで深層学習を掴みたい人、Kerasで実務のモデルを組み始めた人
② Pythonによるデータ分析入門 第2版 — Wes McKinney
著者のWes McKinneyはpandasの作者である。日々使っているライブラリの設計者が、その設計意図ごと解説してくれる本はそう多くない。
扱うのはNumPyの配列操作、pandasのデータ整形、matplotlibでの可視化、そしてグループ集計や結合といった定番の処理だ。モデリングの話はほとんど出てこない。代わりに、欠損値や型の揺れを含む汚いデータをどう手なずけるかに紙面を割いている。
機械学習の仕事で時間を食うのは、だいたいモデルより手前の工程だ。自分もインデックスの扱いを雑に理解していたせいで、結合のたびに行数が増える事故を何度か起こした。この本のpandas章を通して読んでから、同じミスはほぼ消えた。
後半の時系列データの章は、日本語で丁寧に書かれた資料が少ない領域なので価値が高い。リサンプリングやタイムゾーン、ウィンドウ関数あたりは、需要予測やログ分析をやるなら必ず戻ってくる話題である。辞書的に引ける構成なので、通読後も机に置いておきたい一冊だ。
こんな人に: 前処理でいつも手が止まる人、pandasを雰囲気で使っている自覚がある人
③ 深層学習 — Ian Goodfellow, Yoshua Bengio, Aaron Courville
GAN を提案したIan Goodfellow、深層学習研究を牽引してきたYoshua Bengio、モントリオール大学のAaron Courvilleによる共著だ。この分野の標準的な教科書として扱われている。
線形代数と確率の復習から始まり、順伝播型ネットワーク、正則化、最適化、CNN、RNNと積み上げていく。後半は表現学習や生成モデル、推論の近似といった研究寄りの話題に入る。コードはほぼ無く、数式と図で構造を説明する本である。
自分がこの本に手を出したのは、実装で詰まった理由を説明できなくなったときだった。バッチ正規化を入れると収束が速い、重み減衰を強めると汎化が改善する。そういう経験則の裏側が、最適化と正則化の章を読むと急に輪郭を持つ。ハイパーパラメータ調整の勘が理屈に接続される感覚があった。
ただ最初の一冊には向かない。分量も数式も重いので、実装経験がない状態で開くと高確率で挫折する。おすすめは必要な章だけ拾う読み方だ。学習が不安定なら最適化の章、過学習なら正則化の章と、問題が起きてから該当箇所を読むと吸収率が全く違う。
こんな人に: 経験則の根拠を言語化したい人、論文を読み始めたい人
まとめ
| ステップ | 読む本 | 得られるもの |
|---|---|---|
| 1. 手を動かす | Pythonによるディープラーニング | Kerasでモデルを設計・評価する型 |
| 2. 足腰を固める | Pythonによるデータ分析入門 第2版 | pandas/NumPyでの前処理と時系列処理 |
| 3. 理屈に潜る | 深層学習 | 最適化・正則化・表現学習の理論 |
今の課題に応じて、まず1冊だけ選ぶなら次の通り。
- モデルは組めるが精度改善が勘頼み → ③で最適化と正則化の章だけ読む
- 前処理のコードが毎回つぎはぎになる → ②のpandasとデータ整形の章
- チュートリアルから先に進めない → ①を写経しながら通す
- 時系列データを初めて扱う → ②の時系列章、そのあと①の対応章
- 論文の数式が読めない → ③の前半の数学パートを復習用に使う
3冊とも分厚いので、一度に全部読もうとしなくていい。自分は①を通読し、業務で詰まるたびに②と③を引く使い方で落ち着いた。手を動かす本を軸に据えて、残りを参照用に置いておくのが長く効く。