⑤设A=}1&0&-12&a&11&2&1=3

考查要点：本题主要考查矩阵的秩、伴随矩阵的性质以及分块矩阵的秩的计算。
解题核心思路：

1. 确定矩阵A的秩：由$r(AB)=1$且$r(B)=2$，结合矩阵乘积秩的性质，推断$r(A)=2$。
2. 伴随矩阵的秩：对于$n$阶矩阵，若$r(A)=n-1$，则$r(A^*)=1$；若$r(A)=n$，则$r(A^*)=n$。本题中$r(A)=2$，故$r(A^*)=1$，同理$r(B^*)=1$。
3. 分块矩阵的秩：根据分块矩阵的结构（如对角分块、上三角分块等），结合各块的秩及线性相关性，判断总秩。

破题关键点：

• 伴随矩阵秩的计算是关键，需明确$r(A)=2$时$r(A^*)=1$。
• 分块矩阵的结构分析需结合块的秩及可能的线性相关性，尤其注意对角分块和上三角分块的秩计算规律。

步骤1：确定矩阵A的秩

由$r(B)=2$且$r(AB)=1$，根据矩阵乘积秩的性质$r(AB) \leq \min\{r(A), r(B)\}$，可知$r(A) \geq 1$。但进一步分析可知，若$r(A)=1$，则$r(AB) \leq 1$，与$r(B)=2$矛盾。因此$r(A)=2$。

步骤2：伴随矩阵的秩

• $A$为3阶矩阵，$r(A)=2$，故$r(A^*)=1$。
• $B$为3阶矩阵，$r(B)=2$，故$r(B^*)=1$。

步骤3：分析各选项

选项A

分块矩阵$\begin{pmatrix}A^* & O \\ A & B\end{pmatrix}$：

• $A^*$的秩为1，$A$的秩为2，$B$的秩为2。
• 总秩为各块秩之和，但需考虑线性相关性。由于$A^*$与$A$的行空间可能重叠，总秩不超过5，但选项中给出秩为3，故错误。

选项B

分块矩阵$\begin{pmatrix}A^* & O \\ B^* & B\end{pmatrix}$：

• 上块$A^*$的秩为1，下块$B^*$和$B$的秩分别为1和2。
• 对角分块矩阵的秩为各块秩之和，即$1+2=3$，故正确。

选项C

分块矩阵$\begin{pmatrix}A^* & B \\ O & A\end{pmatrix}$：

• 上三角分块矩阵，左上块$A^*$的秩为1，右下块$A$的秩为2。
• 总秩为对角块秩之和，即$1+2=3$，故正确。

选项D

分块矩阵$\begin{pmatrix}A & B \\ O & B\end{pmatrix}$：

• 上三角分块矩阵，左上块$A$的秩为2，右下块$B$的秩为2。
• 总秩为对角块秩之和，即$2+2=4$，但选项中给出秩为3，故错误。