矩阵的第行可以看作，用表示。同样的道理，矩阵的第列可以看作，用：

这两个向量用图来表示就是：

行数列数相等，且都等于的矩阵称为阶矩阵或阶方阵（Square matrix），可简记为。比如下面是二阶方阵和三阶方阵：

元素都是零的矩阵称为零矩阵（Zero matrix），记做。比如下面是两个零矩阵：

在历史上，矩阵是作为的一种标记法引入数学的。比如下面线性方程组：

未知数的名字、根本不重要，所以可把未知数的系数提出来，用矩阵来表示，并且这样的矩阵可以称为系数矩阵（Coefficient matrix）：

如果把等号右边的数字一起提出来，那么称为增广矩阵（Augmented matrix）：

也可以把右边的数字用竖线隔开，本网站会根据展示的需要混用这两种符号：