前書き
前回の記事にも書いたけど、結局Windows+Visual StudioでDeep.Net環境を構築したら、すんなりいけた 
さて、一安心と思ってMNISTの例を試して実行してみたけど、こっちはこっちで色々問題が
環境
- Windows 7 (64bit)
- Visual Studio 2015
DeepNet導入手順
- F#プロジェクトを作成する(とりあえずコンソールアプリ)
- ターゲットフレームワークを「4.6.1」にする
- nugetにてDeep.Netをインストールする
- nugetにてFSharp.Core (F# 4.1)をインストールする（入ってなければ）
MNISTのアレを実行
データセットはここからとってきて任意のフォルダに格納しておく。
本家のサンプルを見ながらコーディング。しかしそのままではコンパイルエラーが発生するので、次のように修正する。
ArrayNDNSからTensorに変更
open Tensor //open ArrayNDNS
open SymTensor
open SymTensor.Compiler.Cuda
open Datasets
Img,LblをInput,Targetに変更
let mnist = Mnist.load (__SOURCE_DIRECTORY__ + "../../../Data/MNIST") 0.0
|> TrnValTst.ToCuda
printfn "MNIST training set: images have shape %A and labels have shape %A"
mnist.Trn.All.Input.Shape mnist.Trn.All.Target.Shape
printfn "MNIST test set: images have shape %A and labels have shape %A"
mnist.Tst.All.Input.Shape mnist.Tst.All.Target.Shape
CPUなのでDevHostを使う
let mi = mb.Instantiate DevHost
refじゃなくなっているので「!」を外す
let hiddenAct = hiddenWeights .* input.T + hiddenBias
...
let outputAct = outputWeights .* hiddenVal
もし古い文法しか対応していない場合は次のように直す
let optCfg = { Optimizers.GradientDescent.DefaultCfg with Step=1e-1f }
これ以外にも修正箇所があるけど、方針としては上記のいずれかなので、記載は割愛。
実行時のエラー
なんか、次のコードでエラーが発生する
let hiddenAct = hiddenWeights .* input.T + hiddenBias
hiddenBiasは隠れ層のノード数分の配列データなのだが、これがブロードキャストで列方向(横方向)に隠れ層のノード数分拡張される為、「+」演算が成立しないという例外が発生する。
あまりにも手詰まり感満載だったので、いよいよ本家Githubにissueを投げてみた。(Cannot apply element-wise operator Add)
その回答を元に書き直すと
let hiddenAct = hiddenWeights .* input.T + (Expr.reshape [nHidden;SizeSpec.broadcastable] hiddenBias)
いや、さすがにこれは無理ゲーだよwww （初見殺しにも程がある）
学習を重ねても減らないLoss
紆余曲折してようやく繰り返し学習ができるようになった……。
しかし！
実行結果
Test loss after 0 iterations: 2.3019
Test loss after 50 iterations: 2.3019
...
Test loss after 950 iterations: 2.3019
Test loss after 1000 iterations: 2.3019
Lossが減ってねーー！！
終わりに
ここまできたら、少なくともWindows上ではできるようにしたいので、拙い英語力を駆使しながら、作者とのコミュニケーションを続けてみようと思う。
いつか本章のタイトルが「上手くいかず⇨いきました」になることを期待。
あとドキュメントも最新の実装に合わせた方が良い旨を提案してみようっと。