2005 年考研数学（一） 第 21 题

$AB=O$ 是一把双刃钥匙：一方面 $B$ 的列全是 $A\mathbf{x}=0$ 的现成解，另一方面 $r(A)+r(B)\le n$ 限制了 $r(A)$。$B$ 的秩随 $k$ 突变（$k=9$ 时降为 $1$），所以按 $k$ 分类，先钉死 $r(B)$ 再夹逼 $r(A)$，据此知道要几个解向量，并直接从 $B$ 的列中取。

分析：由 $AB=O$ 知 $B$ 的列向量都是 $A\mathbf{x}=0$ 的解，且 $r(A)+r(B)\le 3$；再按 $k$ 分类讨论。

由 $AB=O$ 得 $r(A)+r(B)\le 3$。又 $A$ 是非零矩阵，故 $r(A)\ge 1$。

情形一：$k\ne 9$。 此时 $r(B)=2$，故 $r(A)=1$，$A\mathbf{x}=0$ 的基础解系含 $2$ 个向量。$B$ 的列向量中 $(1,2,3{)}^T$ 与 $(3,6,k{)}^T$ 线性无关且都是解，故通解为 $\mathbf{x}=C_1(1,2,3{)}^T+C_2(3,6,k{)}^T$（$C_1,C_2$ 为任意常数）。

情形二：$k=9$。 此时 $r(B)=1$，故 $1\le r(A)\le 2$。

若 $r(A)=2$，则基础解系含 $1$ 个向量，$B$ 的列向量都是 $(1,2,3{)}^T$ 的倍数，通解为 $\mathbf{x}=C(1,2,3{)}^T$（$C$ 为任意常数）。

若 $r(A)=1$，不妨设 $a\ne 0$，则 $A\to \left(\begin{array}{ccc}a& b& c\\ 0& 0& 0\\ 0& 0& 0\end{array}\right)\to \left(\begin{array}{ccc}1& \frac{b}{a}& \frac{c}{a}\\ 0& 0& 0\\ 0& 0& 0\end{array}\right)$，通解为 $\mathbf{x}=C_1{\left(-\frac{b}{a},1,0\right)}^T+C_2{\left(-\frac{c}{a},0,1\right)}^T$（$C_1,C_2$ 为任意常数）。