系数行列式为0，说明系数矩阵的秩小于n。如果增广矩阵的秩和系数矩阵的秩相同(都小于n)n，方程有无穷解。如果增广矩阵的秩比系数矩阵大1，那么方程组就无解了。
推导过程：
常数项全为0的n元线性方程组。
线性方程形式
形为 ax+by+...+cz+d=0 ，关于x、y的线性方程，是指经过整理后能变形为ax+by+c=0的方程（其中a、b、c为已知数，a、b不同时为0）。
一元线性方程是最简单的方程，其形式为ax=b。因为把一次方程在坐标系中表示出来的图形是一条直线，故称其为线性方程。
先写m文件function
[x,y]=line_solution(A,b)
[m,n]=size(A)
y=[]
if
norm(b)>0
if
rank(A)==rank([A,b])
if
rank(A)==n
disp('方程有唯一解x')
x=A\b
else
disp('方程有无穷多解,特解为x，其齐次方程组的基础解系为y')
x=A\b
y=null(A,'r')%null是用来求齐次线性方程组的基础解系的，加上'r'则求出的是一组最小正整数解，如果不加，则求出的是解空间的规范正交基。
end
else
disp('方程无解')
x=[]
end
else
disp('原方程组有唯一零解x')
x=zeros(n,1)
if
rank(A)<n
disp('方程组有无穷个解，基础解系为y')
y=null(A,'r')
end
end
----------------------------------------------------------------------
举例调用：
format
rat
%以有理数形式输出
A=[1,1,-3,-13,-1,-3,41,5,-9,-8]
b=[140]
[x,y]=line_solution(A,b)
x,y
format
short
%保留4位有效数字
方程组 A x = 0 Ax=0Ax=0 和 B x = 0 Bx=0Bx=0 同解的充要条件为两矩阵的行向量组等价，即可以互相表示。齐次线性方程组的全部解构成的集合中包括零解、且对线性运算是封闭的。该几何的最大无关组称为该方程组的基础解系，可用该基础解系表达该方程组的全部解，即通解。
基础解系的特点：一般存在且不唯一；可通过初等行变换求解基础解系；基础解系的意义在于可使用有限个解表达无穷解。
齐次线性方程组解的性质
1、齐次线性方程组有非零解的充要条件是r(A)<n。即系数矩阵A的秩小于未知量的个数。推论：齐次线性方程组仅有零解的充要条件是r(A)=n。
2、若x是齐次线性方程组的一个解，则kx也是它的解，其中k是任意常数。
3、若x1,x2是齐次线性方程组的两个解，则x1+x2也是它的解。
4、对齐次线性方程组，若r(A)=r<n，则存在基础解系，且基础解系所含向量的个数为n-r，即其解空间的维数为n-r。
