線形代数で行って縦と横どっちだっけ？積の計算するときにどるんだっけ？と忘れてしまう方向けの覚え方です。
まさに、恥ずかしながら私が忘れてしまう人です。何度も調べるのも面倒なので、きちんと覚え方をメモしておきます。

行が横で列が縦

これは、覚えやすく行が横で列が縦方向です。「行」の漢字の右上部分が横棒になっているから横方向、「列」漢字の右部分が縦棒になっているから縦方向と覚えています。
こんな行列があったら、行=2, 列=3です。

  A = \left(
    \begin{array}{ccc}
      a_{11} & a_{12} & a_{13} \\
      a_{21} & a_{22} & a_{23} \\
    \end{array}
  \right)

添え字は行・列の順

行列要素を書く時の添え字は行→列の順です。つまり、1文字目は行(横)で、2文字目は列(縦)です。
覚え方は添え字は言葉(「行・列」)の順にとしています。

  A = \left(
    \begin{array}{ccc}
      a_{11} & a_{12} & a_{13} \\
      a_{21} & a_{22} & a_{23} \\
      a_{31} & a_{32} & a_{33}
    \end{array}
  \right)

m×n行列は行・列の順

添え字と似ていますが、行列の型で「$m \times n$行列」と呼ぶことがあります。その時にmは行(横)、nは列(縦)を示します。
覚え方は言葉(m,nは「行・列」)の順としています。
こんな行列は**$2 \times 3$行列**です。

  A = \left(
    \begin{array}{ccc}
      a_{11} & a_{12} & a_{13} \\
      a_{21} & a_{22} & a_{23} \\
    \end{array}
  \right)

行列の積

最後に行列の積は、**行方向要素に列方向要素を掛けます。**その結果、$a \times b$の行列と$b \times c$の行列の積は$a \times c$の行列
です。
ABの積は以下の計算。

  AB = \left(
    \begin{array}{ccc}
      a & b \\
      c & d \\
    \end{array}
  \right )
  \left(
    \begin{array}{ccc}
      p & q \\
      r & s \\
    \end{array}
  \right
) 
=
  \left(
    \begin{array}{ccc}
      ap + br & aq + bs \\
      cp + dr & cq + ds \\
    \end{array}
  \right
)

少しわかりやすく、結果の1行1列目の要素をどのように算出しているかにフォーカスします(関係ない部分は$*$としています)。行方向に列方向を掛けるという意味がわかりやすくなりました。

\left(
    \begin{array}{ccc}
      a & b \\
      * & * \\
    \end{array}
  \right )
  \left(
    \begin{array}{ccc}
      p & * \\
      r & * \\
    \end{array}
  \right
) 
=
  \left(
    \begin{array}{ccc}
      ap + br & * \\
      * & * \\
    \end{array}
  \right
)

同様に他の3要素も書いておきます。

\left(
    \begin{array}{ccc}
      a & b \\
      * & * \\
    \end{array}
  \right )
  \left(
    \begin{array}{ccc}
      * & q \\
      * & s \\
    \end{array}
  \right
) 
=
  \left(
    \begin{array}{ccc}
      * & aq + bs \\
      * & * \\
    \end{array}
  \right
)

\left(
    \begin{array}{ccc}
      * & * \\
      c & d \\
    \end{array}
  \right )
  \left(
    \begin{array}{ccc}
      p & * \\
      r & * \\
    \end{array}
  \right
) 
=
  \left(
    \begin{array}{ccc}
      * & * \\
      cp + dr & * \\
    \end{array}
  \right
)

\left(
    \begin{array}{ccc}
      * & * \\
      c & d \\
    \end{array}
  \right )
  \left(
    \begin{array}{ccc}
      * & q \\
      * & s \\
    \end{array}
  \right
) 
=
  \left(
    \begin{array}{ccc}
      * & * \\
      * & cq + ds \\
    \end{array}
  \right
)

転置

転置がどっちかよく忘れてしまいます。

  {\bf x} = \left(
    \begin{array}{ccc}
      x_1 \\
      \vdots \\
      x_d \\
    \end{array}
  \right)
,\ \  {\bf x}^T = (x_1, \ldots, x_d)