行列とは、数字や記号を集めてまとめて書いただけのものです
２×２の行列の例
$$\begin{pmatrix}1 & 3 \\5 & 2 \
\end{pmatrix}$$
これ自体には何の意味もありません。「1」,「3」,「5」,「2」という数字が入っているだけです。
しかしいつも扱っている数字や記号もよく考えると、それ単体では何の意味も持たないものです。
数字：「1」という数字が書かれてあったとしても、それだけでは本来何の意味もないです。そこに「1」という記号があるだけです。順序があり単位をつけたり演算することによって意味がでてきて、意味があるからこそ認識しやすいわけです。日常で数字を扱うときは必ず単位がついています。だから違和感なく数字を扱えます。
日常に出てくる数字の例
１００個、１００円、１００メートル⇒必ず単位がセットになっている
１００倍⇒対象元には単位がついているはず
行列：日常的に扱うことが無いのでイメージが湧かず分かりにくいのですが、単独の数字と同じく、行列があるだけでは何の意味もないです。ここに演算を入れることで意味がでてきます。他の行列やベクトルに対して作用させることで、元データを変換する役割があります。
行列の積の演算
n次元のデータがあるとします。ベクトルで書くと
$$x=\begin{pmatrix}x_{1}\\
\vdots\\x_{n}\end{pmatrix}
$$となります。この$x$に対して、実数$a_{ij}$たちをかけて
$y_{1}=a_{11}x_{1}+a_{12}x_{2}+・・・+a_{1n}x_{n}$
$y_{2}=a_{21}x_{1}+a_{22}x_{2}+・・・+a_{2n}x_{n}$ （１）
$\vdots$
$y_{n}=a_{n1}x_{1}+a_{n2}x_{2}+・・・+a_{nn}x_{n}$
$このように別のベクトル y=\begin{pmatrix}y_{1}\\
\vdots\\y_{n}\end{pmatrix} をつくります。$
この変換を一次変換といいます。一方で$x$に作用させた$a_{ij}$たちをそのまま行列で書いたものを$A$とおくことにします。
$$A = \left(\begin{array}{c@{}c@{}c@{}c}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{n1} & a_{n1} & \cdots & a_{nn}
\end{array}
\right)$$
行列$A$をベクトル$x$に（１）の演算をしてできたのがベクトル$y$です。このとき、$y=A・x$と書き、これを行列$A$とベクトル$x$の積といいます。
行列を使うメリット
① 式がシンプルに書けるからです。（１）のようにずらずらと書くよりも$y=A・x$の方がいいですね。また、多次元の線形回帰モデル $y=Xb+ε$ の $b$ の推定は下記のように簡単な形で書けます。$$\hat{b}=(X^TX)^{-1}X^Ty$$
② 行列自体の特徴を調べることによって、簡単に良い結論が導けるときがあります。例えば行列$A$で$a_{ij}=a_{ji}$のときに実対称行列といいますが、このとき固有値は実数で存在することが知られており、主成分分析などではこの事実が重要となります。