这一节我们考虑齐次方程组 \(A\vec{x}=\vec{0}\) 的解的理论。对于齐次方程组来说，它总是有解 \(\vec{x}=\vec{0}\)，这个解我们称之为零解或者平凡解。我们的问题是，齐次方程组有非零解的条件是什么？
我们先来看两个例子。从这两个例子我们可以得到非零解的存在条件。
例1：解方程组 \(A\vec{x}=\vec{0}\)，其中
\[A=\begin{pmatrix}1&1&2\\ 2&4&-3\\ 3&6&-5\end{pmatrix}\]
解：我们对系数矩阵做初等变换
\[\begin{align*}A&=\begin{pmatrix}1&1&2\\ 2&4&-3\\ 3&6&-5\end{pmatrix}\sim \begin{pmatrix}1&1&2\\ 0&2&-7\\ 0&3&-11\end{pmatrix}\\ &\sim \begin{pmatrix}1&1&2\\ 0&1&-\frac{7}{2}\\ 0&3&-11\end{pmatrix}\sim\begin{pmatrix}1&1&2\\ 0&1&-\frac{7}{2}\\ 0&0&-\frac{1}{2}\end{pmatrix} \\ &\sim \begin{pmatrix}1&1&2\\ 0&1&-\frac{7}{2}\\ 0&0&1\end{pmatrix}\sim \begin{pmatrix}1&1&0\\ 0&1&0\\ 0&0&1\end{pmatrix}\\ &\sim \begin{pmatrix}1&0&0\\ 0&1&0\\ 0&0&1\end{pmatrix}\end{align*}\]
对应原方程组，我们有 \begin{cases}x_1=0\\ x_2=0\\ x_3=0\end{cases}它只有零解。
这里我们看到了，这个方程组有三个变量，但行阶梯形也有三个非零行。这样的话，方程组就没有自由元，所以方程组就只有零解。
我们再来看一个例子。
例2：解齐次线性方程组 \(A\vec{x}=\vec{0}\)，其中
\[A=\begin{pmatrix}1&-1&2&4\\ 2&2&0&-1\\ 3&1&2&1\end{pmatrix}\]
解：我们对齐次方程组的系数矩阵做初等变换，
\[\begin{align*}A&=\begin{pmatrix}1&-1&2&4\\ 2&2&0&-1\\ 3&1&2&1\end{pmatrix}\sim\begin{pmatrix}1&-1&2&4\\ 0&4&-4&-3\\ 0&4&-4&-2\end{pmatrix}\\ &\sim \begin{pmatrix}1&-1&2&4\\ 0&4&-4&-3\\ 0&0&0&1\end{pmatrix}\sim \begin{pmatrix}1&-1&2&0\\ 0&4&-4&0\\ 0&0&0&1\end{pmatrix} \\ &\sim \begin{pmatrix}1&-1&2&0\\ 0&1&-1&0\\ 0&0&0&1\end{pmatrix}\sim \begin{pmatrix}1&0&1&0\\ 0&1&-1&0\\ 0&0&0&1\end{pmatrix}\end{align*}\]
我们可以取 \(x_3\) 为自由元。令 \(x_3=c\)， 则方程组的解为 \[\begin{pmatrix}x_1\\x_2\\x_3\\x_4\end{pmatrix}=c\begin{pmatrix}-1\\1\\1\\0 \end{pmatrix}\]
这个方程组有非零解是因为它有自由元，而且它的解有无穷多个解。因为 \(x_3\) 可以取任何值。
在给出解的理论之前，我们先给出矩阵的秩的定义。
3，矩阵的（行）秩：矩阵的（行）秩定义为它的行阶梯形中非零行的行数。记为 \(R(A)\)。
4，定理：设方程组 \(A\vec{x}=0\) 的未知元的个数为 \(n\)，\(R(A)=m\)，则
- \(R(A)<n\)，则方程组有非零解；
- \(R(A)=n\)，则方程组只有零解。
我们之前已经解释了，如果矩阵的秩与未知元个数相同的话，方程组就没有自由元，方程组就只有零解。如果秩小于未知元的个数，那么方程组就有自由元，方程组就有无穷多个解。
从这个定理我们知道，如果只是想要知道齐次方程组有没有非零解，我们只需要求出矩阵的秩就可以了，也就是只需要求出矩阵的行阶梯形，而不需要求出矩阵的最简形。
最后我们利用这个定理来判断方程组有没有非零解。
例3：问 \(a\) 取何值时，方程组
\[\begin{cases}x-2y+z=0\\ x+ay-3z=0\\ -x+6y-5z=0\end{cases}\]有非零解？并求出其通解。
解：我们对方程的系数矩阵做初等变换
\[\begin{align*}A&=\begin{pmatrix}1&-2&1\\ 1&a&-3\\ -1&6&-5\end{pmatrix}\sim \begin{pmatrix}1&-2&1\\ 0&a+2&-4\\ 0&4&-4\end{pmatrix}\\ &\sim\begin{pmatrix}1&-2&1\\ 0&a+2&-4\\ 0&1&-1\end{pmatrix}\sim \begin{pmatrix}1&-2&1\\ 0&a-2&0\\ 0&1&-1\end{pmatrix} \\ &\sim\begin{pmatrix}1&-2&1\\ 0&1&-1\\ 0&a-2&0\end{pmatrix} \end{align*}\]
现在我们可以看出，若 \(a\ne 2\)，则矩阵的秩 \(R(A)=3\)， 方程组只有零解。若 \(a=2\)，则 \(R(A)=2<3\)， 方程组有非零解。
若 \(a=2\)，则
\[\begin{align*}A&\sim\begin{pmatrix}1&-2&1\\ 0&1&-1\\ 0&0&0\end{pmatrix}\sim \begin{pmatrix}1&0&-1\\ 0&1&-1\\ 0&0&0\end{pmatrix} \end{align*}\]
则方程组的通解为\[\begin{pmatrix}x\\y\\ z\end{pmatrix}=c\begin{pmatrix}1\\1\\1\end{pmatrix}\]