3.3 线性变换(矩阵)的对角化

在特征向量与特征值一节中,我们了解了形如$\vec T(\vec x) = \lambda \vec x$的形式: 其中$\lambda$为线性变换的特征值, $\vec x$为与其对应的特征向量.我们在本节中将尝试扩大$\vec x$的可能取值范围——把范围扩大到线性变换所作用的整个线性空间$\vec V$.此时,我们能否尝试利用向量分解的形式, 把任意的$\vec v \in \vec V$分解成$\vec v = \vec v_1 + \vec v_2 + \cdots + \vec v_n$, 使得每一个$\vec v_i$都是和特征值$\lambda_i$有关的向量？这样一来我们便有

$$\vec T(\vec v) = \lambda_1 \vec v_1 + \cdots + \lambda_n \vec v_n.$$

该定理告诉了我们不同的特征空间之间没有交集(虽然其交集存在零向量,但是根据我们的定义,零向量不在我们所考虑的特征向量中).这也就意味着特征空间彼此线性无关.那么这些线性无关的特征空间构成的并集能否包含$\vec V$呢？我们由此引出矩阵对角化的概念:

该定理告诉我们:线性变换(矩阵)可对角化需要满足两个条件:第一,其作用的线性空间$\vec V$是若干个字空间的直和(不清楚此概念的读者请阅读第一章第四节的内容), 这些子空间其实就是$\vec T$的特征空间;第二:对于每一个特征空间$\vec{W}_i$而言,对于$\vec w \in \vec{W}_i$, 满足$\vec T(\vec w) = \lambda_i \vec w$, 这里面$\lambda_i$即为和特征空间$\vec{W}_i$相对应的特征值.

此时我们便知道,根据直和的定义,对于任意的$\vec v \in \vec V$, 都存在$\vec w_i \in \vec{W}_i$, 使得

$$\vec v = \vec w_1 + \vec w_2 + \cdots + \vec w_m.$$

为方便后续的推导, 我们此时先假设$m=n$. 因此,再根据矩阵对角化的概念,我们便有

$$\vec T(\vec v) = \lambda_1 \vec w_1 + \lambda_2 \vec w_2 + \cdots + \lambda_n \vec w_n,$$

其中$\lambda_i$即为与特征空间$\vec{W}_i$对应的特征值.

由于特征空间彼此线性无关,因此$\vec w_1, \vec w_2, \cdots, \vec w_n$也彼此线性无关.根据直和的定义,此时$\gamma= \lbrace\vec w_1, \vec w_2, \cdots, \vec w_n \rbrace$也构成$\vec V$的一组基底,如果我们考虑线性变换$\vec T$在基底$\gamma$下面的矩阵形式,不难得到

$$[\vec T]_{\gamma} = \begin{pmatrix} \lambda_1 & & & \vec 0 \\ & \lambda_2 & & \\ & & \ddots & \\ \vec 0& & & \lambda_n \end{pmatrix} = \diag(\lambda_1, \lambda_2, \cdots, \lambda_n).$$

此时,我们也自然而然地联想到了基底之间的变换,如果设$[\vec T]_{E}$为该线性变换在标准基底下的表达形式的话,那么我们知道,存在可逆矩阵$\mathcal{Q}$, 使得

$$[\vec T]_{\gamma} = \mathcal{Q}^{-1} [\vec T]_{E} \mathcal{Q}.$$

我们再一次回顾形如下图的转化关系:

$$\begin{CD} [\vec v]_{\gamma} @>{[\vec T]_{\gamma}}>> [\vec T \vec v]_{\gamma} \\ @V{\mathcal{Q}}VV @AA{\mathcal{Q}^{-1}}A \\ [\vec v]_{E} @>{[\vec T]_{E}}>> [\vec T \vec v]_{E} \end{CD}$$

其中可逆矩阵$\mathcal{Q}$即为从标准基底$\gamma$变化到基底$E$的变化矩阵. 此时不妨设在标准基底$E = \lbrace \vec e_1, \vec e_2, \cdots, \vec e_n \rbrace$中,有

$$\vec v = c_1 \vec e_1 + c_2 \vec e_2 + \cdots + c_n \vec e_n$$

同时,$\vec v$还满足

$$\vec v = \lambda_1 \vec w_1 + \lambda_2 \vec w_2 + \cdots + \lambda_n \vec w_n$$

根据定义,我们有:

$$\left(\begin{array}{|c|} \\ [\vec T(\vec e_1)]_{\gamma} & \cdots & [\vec T(\vec e_n)]_{\gamma} \\ \end{array}\right) \begin{pmatrix} \lambda_1 \\ \vdots \\ \lambda_n \end{pmatrix}_{\gamma} = \begin{pmatrix} c_1 \\ \vdots \\ c_n\end{pmatrix}_{E}$$

形如$\left(\begin{array}{|c|} \\ [\vec T(\vec e_1)]_{\gamma} & \cdots & [\vec T(\vec e_n)]_{\gamma} \\ \end{array}\right)$ 的矩阵即为可逆矩阵$\mathcal{Q}$. 不难发现,我们得到

$$\lambda_1 [\vec T(\vec e_1)]_{\gamma} + \cdots + \lambda_n [\vec T(\vec e_n)]_{\gamma} = \vec v.$$

根据定义,我们便有$[\vec T(\vec e_i)]_{\gamma} = \vec w_i$, 其中$\vec w_i$为特征向量. 由此我们得出,可逆矩阵$\mathcal{Q}$的第$i$列即为线性变换中与$\lambda_i$所对应的特征向量.

此时如果$m<n$, 且我们发现某一个特征空间的维数为$k, (k>1)$时,我们需要将该特征空间的特征值在对角线上重复$k$次,然后选取构成其基底的$k$个向量作为不同的特征向量依次写在相应的列里面. 即对每个特征空间而言, 我们取其一组基底, 若所有这些特征空间的基底合并后恰好构成$\vec V$的一组基底，则$\vec T$在这组基底下的矩阵为对角矩阵. 这一过程便是矩阵(线性变换)的对角化 (Diagonalization).

此时,我们便得出了判断线性变换(矩阵)是否可对角化的第一个定理:

该定理也可以叙述为:设线性变换$\vec T : \vec V \longrightarrow \vec V$, 那么$\vec T$可对角化的条件是存在可逆矩阵$\mathcal{Q}$与对角矩阵$\mathcal{P}$, 使得

$$\mathcal{Q}^{} \mathcal{P} \mathcal{Q}^{-1} = \vec T$$

其中$\mathcal{Q}$的列向量即为$\vec T$的特征向量;$\mathcal{P}$主对角线上的元素即为相对应的特征向量.

随后,我们进一步来探究线性变换(矩阵)可对角化的条件.设线性空间$\vec V$的维数为$n$.假设此时线性变换$\vec T: \vec V \longrightarrow \vec V$有$n$个不同的特征值,那么我们便知道此时就有$n$个彼此线性无关的特征向量,由这些特征向量作为列向量构成的矩阵可逆,也就满足了矩阵对角化的条件.由此我们可以再引出一条定理:

如果$\vec T$的特征值个数小于$n$, 此时并不意味着$\vec T$不能对角化,我们只需要找出$n$个彼此线性无关的特征向量即可.此时我们注意到由于特征空间的个数小于$n$, 因此一定存在维数大于$1$的特征空间,自然在该空间里面也可以找到多个彼此线性无关的特征向量.在这种情况下该特征空间对应的特征值在对角矩阵中会重复出现,出现次数与其维数相同.

此时,我们再从几何重数与代数重数的角度去理解这个问题.我们知道,特征值的几何重数代表其特征空间的维数,也代表着该特征空间里面彼此线性无关的特征向量的个数.因此我们还可以引出一条推论:

再进一步的深入讨论之前,我们引出一条定理,来说明几何重数与代数重数之间的关系.

该定理的证明我们在此省略,读者不必知道其证明方法.值得注意的是,任何一个特征值的代数重数均大于等于$1$, 并且根据定义, 当特征多项式在数域$\mathbb{F}$中可分解时, 所有特征值的代数重数之和为$n$(线性空间的维数).

那么我们现在已经万事俱备,只欠东风了:我们引出最重要的对角化定理:

这一定理的证明我们暂时忽略.

{3.3 练习}

1. 判断下列矩阵能否对角化:

$$A = \begin{pmatrix} 1 & 2 \\ 3 & 2 \end{pmatrix} \hspace{0.5cm} B = \begin{pmatrix} 2 & -4 \\ -1 & -1 \end{pmatrix} \hspace{0.5cm} C = \begin{pmatrix} 2 & 1 \\ 4 & -1 \end{pmatrix}.$$

2. 特征多项式相同的$n \times n$矩阵一定都可以(或都不可以)对角化吗？不妨使用$A = \begin{pmatrix} 2 & 3 & -3 \\ 1 & 0 & -1 \\1& 1 & -2 \end{pmatrix}, B= \begin{pmatrix} 0 & 1 & 0 \\ 3 & 0 & 1 \\ 2 & 0 & 0 \end{pmatrix}$来验证这一猜想.

3. 设线性变换$\vec T : \vec V \longrightarrow \vec V$ 满足$\vec T^2(\vec v) = \vec v, \hspace{0.1cm} \forall \vec v \in \vec V$.证明:$\vec T$可对角化.

4. 证明任何的对称矩阵(即$A = A^T$)均可对角化.

5. 设$n \geq 1$, 定义线性变换$\vec T : \mathbb{P}_n(x) \longrightarrow \mathbb{P}_n(x)$, 满足:

$$\vec T(f(x)) = f(x) + f^{(1)}(x) + f^{(2)}(x) + \cdots + f^{(n)}(x)$$

其中$f^{(k)}(x)$代表多项式$f(x)$的$k$阶导数.判断$\vec T$能否对角化.