2025 年考研数学（二） 第 10 题

条件 $r(AB)=r(BA)+1$ 的价值在于「卡住」$r(A),r(B)$ 都在 $1$ 到 $2$ 之间（可逆或零都会让 $r(AB)=r(BA)$）。判断 D 这类「公共非零解」，标准手法是把两组方程叠成 $\left(\begin{array}{c}ABA\\ BAB\end{array}\right)x=0$，只要证系数矩阵秩 $<3$ 即有非零公共解；而秩的上界由 $r(ABA)+r(BAB)$ 控制，逐层用 $r(AB)\le \min$ 压到小于 3。A、C 这类「一定/一定没有」的绝对命题，往往能用低秩零一矩阵举反例秒杀。

本题综合考查矩阵的秩与线性方程组的解。 用 $r(AB)\le \min \{r(A),r(B)\}$、$r(A,B)\le r(A)+r(B)$ 等对秩作估计。

先定 $r(A),r(B)$。 若 $A$ 或 $B$ 可逆，则 $r(AB)=r(BA)$，与条件矛盾；若 $A$ 或 $B$ 为零矩阵，则 $r(AB)=r(BA)=0$，也矛盾。故 $1\le r(A),r(B)\le 2$，从而 $Ax=0$、$Bx=0$ 都有非零解（B 错）。

再看 D。 由 $r(AB)=r(BA)+1$ 及 $r(AB),r(BA)\le 2$，只能 $\{r(AB),r(BA)\}=\{2,1\}$ 或 $\{1,0\}$。无论哪种，都有
$$r(ABA)\le \min \{r(A),r(BA)\},r(BAB)\le \min \{r(B),r(BA)\}.$$
估计得 $r(ABA)+r(BAB)<3$，于是
$$r\left(\begin{array}{c}ABA\\ BAB\end{array}\right)\le r(ABA)+r(BAB)<3,$$
即方程组 $\{\begin{array}{l}ABAx=0\\ BABx=0\end{array}$ 的系数矩阵秩 $<3$，必有非零解，即两方程组有公共非零解。D 正确。

A、C 为何错： 取 $A=\left(\begin{array}{ccc}1& 0& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right),B=\left(\begin{array}{ccc}0& 1& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right)$，则 $r(AB)=1=r(BA)+1$，但 $(0,0,1{)}^T$ 既是 $Ax=0$ 与 $Bx=0$ 的公共非零解（否定 C），也是 $(A+B)x=0$ 的非零解（否定 A）。故应选 D。