Week4のプログラミング課題ではまったところ
Octaveに不慣れでプログラミング課題で少し手間取ってしまいました。
とりあえず自分用のメモとして記録しておきます。
課題はmnistの手書きの数字を分別するコードを完成させること。
- 10個のRegularized logistic regressionを作る方法と
- 2つのhidden layerを持つNeural Networkでやる方法
手間取った理由
- 課題のpdfの読み込み不足
- 課題のソースコード中にあるhintの読み込み不足 まあこれはひとえに英語力のなさによるものです。 googleさんにfmincgについて相談するとgithubに日本語訳したものをがあったので読みました。 やはり母国語で読むと見落としていた部分がすぐ見つかります。 （ちなみに私が見たものは答えそのものは暗号化？されていたのでカンニングじゃないよね？）
まあちゃんと入力データのサイズくらい確認しましょうね。
octaveの知識不足
- pdfやソースコード中にhintにあるexampleのコードの意味を調べて時間がかかった
% [theta] = ...
% fmincg (@(t)(lrCostFunction(t, X, (y == c), lambda)), ...
% initial_theta, options);
というコメント文中のfmincgの説明これだけでも3つほど知らんことが
(@(t)(lrCostFunction(t, X, (y == c), lambda)の
- @(t) って何
- y==c はどうすんの
- 少し上の行のhintに説明があります。その方法はpdfに説明があります。
-
cはどこから生えてくるの？
- これも少し上のnoteにあります for loop使ってもいいよって書いてあります。
- predict.m のmaxの使い方
max(A, [], 2) to obtain the max for each row.
Aの行ごとに最大の値を見つけてそのカラムの番号がpにすればいいんだけどmaxってどう使うのか知らなかったので調べるのに手間取った
-
行列計算
- 不慣れなので右からかければいいのか、左からかければいいのか、転置はいるのとか
- pdfにそういう時は行列のsizeを表示してみろと
- おお先生もそうやってデバッグしていたのかとちょっと安心
- ところでsizeってどうやって表示するの？
- size(A)とか;なしで書くとか
- octaveのGUI版でブレークポイントを設定してワークスペースにある変数の情報を見る -そのほか
- 所謂biasがΘの最初の要素なのでこれを掛けるため入力データ1をつけ加えること
- oneVsAll.mだと下記のようにしていますこれをNeural Network版で使うpredict.mでは自分でやらないとね
% Add ones to the X data matrix
X = [ones(m, 1) X];
ex3_nnの結果は
Training Set Accuracy: 97.520000
こんな感じでした