0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

ディープラーニングに必要なベクトルの知識 線形変換

Last updated at Posted at 2020-08-15

ディープラーニングを勉強していて、ベクトルの表現や、線形結合などの概念に詰まって気持ち悪かったので、まとめてやっつけます!

目次
1 ベクトル基礎1 (ディープラーニング学習に関わりの深いベクトル基礎知識)
2 ディープラーニングへの応用
3 ベクトル基礎2 (より、ベクトルの理解を深める)

ベクトル基礎1

一次変換(線形変換) ・・ある点に行列を掛け算し、別の点に移動させる。 (ベクトルの方から見た数学的な定義)
つまり、値を変換するということです。

一次結合(線形結合)・・ax+byのような形の式
Slide23.gif

線形(linear)とは、”直線にする”と言う意味

つまり、 入力x に対して、出力y(u)を求めるプロセスとして、 y(u) = wx + b の形にして求めるということ。
ここで,y(u)は線形変換の結果出力されるもの。つまり隠れ層に渡すされる出力の値。

なぜuが出てくるかいというと、いきなり入力 x→y を求めてしまっては、ディープラーニングでもないんでもないただの関数と同じなので。

<重要用語>
基底 ・・ 全体を表現するのに、必要最低限のベクトル (※基本ベクトルともいう)
線形結合 ・・いくつかのベクトル(or関数)がある時、それぞれの定数倍したものの和

※ 2次元空間は互いに平行でないベクトルが2つあれば、その線形結合で全ての平面を表すことができる
線形空間(ベクトル空間)とも呼ぶ

ダウンロード.png

<ベクトルを使う意味・心得>
機械(コンピューター)が扱う数字の形式の中で、相性というものが有る。
機械の大好物が処理が早い表現が行列(orベクトル)です。

これにより、GPUの処理を高速にできるので、ディープラーニングには必須の知識となっています。
画像もRGBの数値で表せるので、結局相性が良いいのは、行列(ベクトル)です。

この1次方程式 (y = wx + b)は、行列で表すことができるので、

1次方程式ではなく、機械が好きな行列で表現しましょう! という感じです。

deeplearning-3336-6-638.jpg

まとめ

① 入力層→隠れ層のフェーズ
【目的 (x→u) を求める】

1次方程式 u = Wx + b

② 1次方程式の出力→活性化  フェーズ (ニューロンが発火するかしないか、決める = 0,1か決める)
【目的 (u→z)を求める】
非線形関数 (ex sigmoid,Relu)

③ 出力フェーズ (マシンが最終的な数値(答え)を発表するフェーズ)
目的 (z→y) を求める

ベクトル基礎2

逆行列と行列式 

逆行列

逆行列は 元の行列と掛け合わせると、単位行列となる行列  

gyaku-gyoretsu1806.png

行列式(determinant)

picture_pc_6eccf09912e51aa9b3b04d6ed4c0929f.png

行列式は上で定義される式です。

<ポイント>
1 行列式 = 0 の時、 逆行列は存在しない。

2 行列式 ≠ 0 の時、 逆行列が存在する

ここで、一次変換の話です。

1次変換は
点単位で見れば、点を変換する 
点の集合を空間としてみれば  空間を変換する   性質がある。
lineartransform1_22.gif

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?