この記事の目的

本記事は、Deep Learningの入門書「ゼロから作るDeep Learning」を参考に、Juliaを用いて同書の内容を実装してみる、という試みです。

※これはあくまで筆者の一つの試みと提案で、必ずしも内容が正解ではありませんのでご了承お願い致します。
また、より良いアドバイスや協力のご提案などありましたら、お気軽にお声がけ頂けますと幸いです。

今回取り組むこと

本記事は、参考書の2章にあたります。
今回は以下の基本的な4つの論理回路を実装してみます。
　①ANDゲート
　②NANDゲート
　③ORゲート
　④XORゲート

①ANDゲート

ANDゲートについては、参考書のp.23に書かれています。
ANDゲートは、真理値表で書くと以下のようになります。
x1及びx2が入力、yが出力です。

x1	x2	y
0	0	0
1	0	0
0	1	0
1	1	1

参考書のソースを元に、Juliaで実装してみます。
wは重み、bはバイアスです。

1_logic_circuit

function AND(x1, x2)

    b = [-0.7]
    x = [x1 x2]
    w = [0.5; 0.5]
    
    calc = x * w + b
    
    if calc[1] <= 0.0
        return 0
    else
        return 1
    end
end

ANDゲートを実装しました。
真理値表通りに動作することを確認します。

↑上枠(灰色網掛け)が実行部分、下部の数字の並びが実行結果です。
真理値表のyの値通りに動作していることが確認できました。

②NANDゲート

続いて、NANDゲートを実装します。
NANDゲートは、真理値表で書くと以下のようになります。
x1及びx2が入力、yが出力です。

x1	x2	y
0	0	1
1	0	1
0	1	1
1	1	0

NANDゲートの実装は以下としました。

1_logic_circuit

function NAND(x1, x2)

    b = [0.7]
    x = [x1 x2]
    w = [-0.5; -0.5]

    calc = x * w + b
    
    if calc[1] <= 0.0
        return 0
    else
        return 1
    end
end

NADゲートの動作確認を行います。

上記、NANDゲートの動作確認ができました。

③ORゲート

続いて、ORゲートを実装します。
ORゲートは、真理値表で書くと以下のようになります。
x1及びx2が入力、yが出力です。

x1	x2	y
0	0	0
1	0	1
0	1	1
1	1	1

ORゲートの実装は以下としました。

1_logic_circuit

function OR(x1, x2)

    b = [-0.2]
    x = [x1 x2]
    w = [0.5; 0.5]

    calc = x * w + b
    
    if calc[1] <= 0.0
        return 0
    else
        return 1
    end
end

以下、動作確認です。

上記の結果、動作確認も良さそうです。

④XORゲート

最後にXORゲートを実装します。
XORゲートは排他的論理和とも呼ばれています。
真理値表は以下となります。
x1及びx2が入力、yが出力です。

x1	x2	y
0	0	0
1	0	1
0	1	1
1	1	0

XORゲートは、これまで作成したAND,NAND,OR各ゲートの組み合わせで実現できます。
以下のような回路を構成します。
s1,s2はそれぞれNAND,ORゲート通過時の中間値です。

実装は以下の通りです。

1_logic_circuit

function XOR(x1, x2)
    
    s1 = NAND(x1, x2)
    s2 = OR(x1, x2)
    y = AND(s1, s2)
    
    return y
        
end

動作確認の結果は以下の通りです。

以上で論理回路の実装ができました。
次回は活性化関数の実装に入りたいと思います。

もくじ

(1)論理回路
 (2)活性化関数
 (3)3層ニューラルネットワークの実装
 (4)ソフトマックス関数
 (5)MNIST手書き数字認識その①画像表示
 (5)MNIST手書き数字認識その②推論

関連情報

Julia早引きノート［01］変数・定数の使い方
https://qiita.com/ttabata/items/a1ada2c0cba03672e105

Julia - 公式ページ
https://julialang.org/

Julia - 日本語公式ドキュメント
https://julia-doc-ja.readthedocs.io/ja/latest/index.html

初めてのJuliaとインストール (Windows & Linux)
https://qiita.com/ttlabo/items/b05bb43d06239f968035

出典

■参考書
「ゼロから作るDeep Learning ～ Pythonで学ぶディープラーニングの理論と実装」
　斎藤康毅著／オライリー・ジャパン

ご意見など

ご意見、間違い訂正などございましたらお寄せ下さい。