回顾我们在第三章中提到的矩阵的对角化: 对于矩阵A而言, 其可以对角化的条件是存在对角矩阵P与可逆矩阵Q, 使得
A=QPQ−1
成立. 其中位于P主对角线上的元素即为A的特征值; Q的列向量即为A的特征向量. 如果我们回顾上一节中提到的正交矩阵和酉矩阵的定义, 我们发现当Q为正交矩阵时, Q⊤=Q−1. 因此我们能否尝试构造出A=QPQ⊤的形式呢?
定义 4.8
设A∈Mn(F).
① 若F=R, 且存在由Rn的一组单位正交基为列向量构成的矩阵Q以及对角矩阵P, 使得A=QPQ⊤, 我们称A可正交对角化(Orthogonally Diagonalizable);
② 若F=C, 且存在由Cn的一组单位正交基为列向量构成的矩阵Q以及对角矩阵P, 使得A=QPQ∗ (Q∗=(Q)⊤), 我们称A可酉对角化(Unitarily Diagonalizable).
通过定义, 我们可以分析出使得矩阵A正交对角化的条件:
- 首先, A必须可以对角化. 否则我们就无法构造出矩阵P和Q.
- 其次, 由于Q为正交(酉)矩阵, 这也就代表了Q中的列向量彼此正交. 由于我们知道, 不同的特征向量所对应的特征空间满足直和的关系, 因此A的特征空间彼此正交, 即EigA(λi)⊥EigA(λj),i=j;
- 最后, 在一个特征空间中, 我们同样要满足其基底向量彼此正交, 因此我们需要通过Gram-Schmidt算法去找出特征空间的单位正交基.
例题 4.5
设线性变换T:R2→R2满足
T(11)=(22);T(10)=(30).那么令E:={(10),(01)}, 判断[T]EE能否正交对角化.
解答 4.5
不难发现, A:=[T]EE=(30−12). 那么很显然A有两个不同的特征值: λ1=3;λ2=2. 由此我们知道A可对角化. 对于λ1=3而言, 其特征向量v1满足
v1∈Ker(A−λ1I)=Ker(00−1−1)=Span(10).对于λ2=2而言, 其特征向量v2满足
v2∈Ker(A−λ2I)=Ker(10−10)=Span(11).我们发现, v1,v2所处的特征空间不正交. 因此我们无法构造出正交矩阵Q, 因此[T]EE不可正交对角化.
定理 4.8
设A∈Mn(F).
① 若F=R, 且A可正交对角化, 那么A=A⊤ (A为对称矩阵);
② 若F=C, 且A可酉对角化, 那么A为正规矩阵 (Normal Matrix), 即 AA∗=A∗A.
证明
对于①而言, 我们知道此时存在对角矩阵P和正交矩阵Q, 使得A=QPQ⊤. 那么
A⊤=(QPQ⊤)⊤=(Q⊤)⊤P⊤Q⊤=QPQ⊤.对于②而言, 类似地
AA∗=QPQ∗(QPQ∗)∗=QPQ∗QP∗Q∗=QPP∗Q∗=QP∗PQ∗=QP∗Q∗QPQ∗=A∗A.∎
该定理说明,实矩阵若可正交对角化,则必须是对称矩阵; 反过来, 我们随后便会知道:当A∈Mn(R)时任何对称矩阵均可正交对角化. 对于A∈Mn(C)而言, 我们把正规矩阵主要分成以下几类:
• 若A∈Mn(C)满足A=A∗, 则A为自伴矩阵 (Self-adjoint Matrices). 其中
⟨x,Ay⟩=(x)⊤(Ay)=(x⊤A)y=(A⊤x)⊤y=⟨A∗x,y⟩=⟨Ax,y⟩.
若定义在内积空间V上的线性变换T:V→V满足⟨Tu,v⟩=⟨u,Tv⟩, T也被称作自伴算子 (Self-adjoint Operator).
定理 4.9
设A∈Mn(C)为自伴矩阵, 则A的所有特征值为实数.
证明
设λ为A的一个特征值, v为与之对应的特征向量. 那么根据推论4.2, 当A∈Mn(C)时我们可以得出相似的结果:
⟨x,Ay⟩=(x)⊤(Ay)=(x⊤A)y=(A⊤x)⊤y=⟨A∗x,y⟩.设λ为A的一个特征值, v为与之对应的特征向量, 那么我们有
⟨Av,v⟩=⟨v,Av⟩, 因此由Av=λv, 我们得到⟨λv,v⟩=⟨v,λv⟩. 根据内积的性质, ⟨λv,v⟩=λ⋅∣∣v∣∣2; ⟨v,Av⟩=λ⋅∣∣v∣∣2. 即我们有λ∣∣v∣∣2=λ∣∣v∣∣2. 由于v为非零向量, 则λ∈R.
∎
同理, 所有的自伴算子的特征值也均为实数.
• 若A∈Mn(C)满足A=−A∗, 则A为斜自伴矩阵 (Skew-adjoint Matrices). 其中
⟨x,Ay⟩=(x)⊤(Ay)=(x⊤A)y=(A⊤x)⊤y=⟨A∗x,y⟩=−⟨Ax,y⟩.
若定义在内积空间V上的线性变换T:V→V满足⟨Tu,v⟩=−⟨u,Tv⟩, T也被称作斜自伴算子 (Skew-adjoint Operator).
定理 4.10
设A∈Mn(C)为斜自伴矩阵, 则A的所有非零特征值为纯虚数.
证明
设λ为A的一个特征值, v为与之对应的特征向量. 则
⟨Av,v⟩=⟨λv,v⟩=λ∣∣v∣∣2.
同时
⟨Av,v⟩=−⟨v,Av⟩=−⟨v,λv⟩=−λ∣∣v∣∣2. 则λ=−λ, 即Re(λ)=0.
∎
同理, 所有的斜自伴算子的非零特征值也均为纯虚数.
• 若A∈Mn(C)满足A∗=A−1, 则A为酉矩阵 (Unitary Matrices). 其中
⟨Ax,Ay⟩=(Ax)⊤(Ay)=A(x⊤A)y=A(A∗x)⊤y=A⟨A∗x,y⟩=AA∗⟨x,y⟩=⟨x,y⟩.
若定义在内积空间V上的线性变换T:V→V满足⟨Tu,Tv⟩=⟨u,v⟩, T也被称作酉算子 (Unitary Operator).
定理 4.11
设A∈Mn(C)为酉矩阵, 则对A中任意的特征值λ而言, λλ=1.
证明
根据酉算子的定义, ⟨Av,Av⟩=⟨v,v⟩. 此外⟨Av,Av⟩=⟨λv,λv⟩=λ⋅λ⟨v,v⟩. 因此原式得证.
∎
同理, 所有的酉算子的特征值也均满足上述性质.
我们接下来将重点研究正规矩阵的性质:
定理 4.12
设A∈Mn(C)为正规矩阵, u为A中与λ对应的特征值, 则u同为A∗中与λ对应的特征值.
证明
可知⟨Av,v⟩=⟨λv,v⟩=λ⟨v,v⟩=⟨v,λv⟩. 同时结合⟨Av,v⟩=⟨v,A∗v⟩即可得证.
∎
定理 4.13
设A∈Mn(C)为正规矩阵, u,v分别为特征值λ,μ所对应的特征向量(λ=μ). 则⟨u,v⟩=0.
证明
设Au=λu,Av=μv. 那么⟨Au,v⟩=⟨λu,v⟩=λ⟨u,v⟩. 同时
⟨Au,v⟩=⟨u,A∗v⟩=⟨u,μv⟩=μ⟨u,v⟩.由于λ=μ, 则⟨u,v⟩=0.
∎
也就是说, 对于所有的正规矩阵或正规算子而言, 其特征空间两两彼此正交. 那么是不是就代表了这些矩阵可以正交对角化了呢? 我们现在提出本章最重要的定理:
定理 4.14
设V为定义在数域F (R或C)上的内积空间, 记线性变换T:V→V, 其矩阵形式为A. 假设T的特征多项式可在F中分解, 那么T可正交对角化(A可正交对角化)的充要条件是T为正规算子(A为正规矩阵).
该定理的证明我们在本书中忽略. 感兴趣的同学请在今后选修泛函分析或者高等代数课程. 我们从两个方面去理解谱定理:
• 第一, 如果F=R, 那么A∗=A⊤, 即AA⊤=A⊤A, 即A=A⊤, 因此A为对称矩阵. 也就是说A可以正交对角化的充要条件是A为对称矩阵. 此时, 存在矩阵Q, 使得Q的列向量为A的特征向量, 且它们构成V的一组标准正交基. 记P为包含A的特征值的对角矩阵, 那么
A=QPQ⊤.
• 第二, 如果F=C, 此时A为正规矩阵, 也就包括了我们先前提出的几种情况: 自伴矩阵, 斜自伴矩阵, 酉矩阵. 因此, A可以正交对角化的充要条件是A为正规矩阵. 此时, 存在矩阵Q, 使得Q的列向量为A的特征向量, 且它们构成V的一组标准正交基. 记P为包含A的特征值的对角矩阵, 那么
A=QPQ∗.
例题 4.6
设A=0−i0i00000. 找出P,Q∈M3(C), 使得A=QPQ∗.
解答 4.6
不难发现, A为正规矩阵, 因此A可正交对角化. A的特征多项式为
CA(x)=det−x−i0i−x000−x=−x(x2−1)=−x(x+1)(x−1).因此A有三个特征值λ1=0,λ2=−1,λ3=1. 三个特征值对应的特征空间分别为
EigA(λ1)=Ker0−i0i00000=Span001.EigA(λ2)=Ker1−i0i10001=Spani−10.EigA(λ3)=Ker1−i0i10001=Span1i0.由于A的特征空间两两正交, 因此我们得到的三个向量即构成了C3的一组正交基. 通过单位化, 我们得到的单位正交基为
v1=001;v2=2i−210,v3=212i0.因此我们得到
P=0000−10001,Q=0012i−210212i0.
在本节的最后, 我们浅谈一下对角化概念的扩充: 三角化 (Triangularization).
定义 4.9
设V为维数为n的线性空间, 设线性变换T:V→V. 若存在V的一组基底β, 使得[T]β为上三角矩阵, 且位于主对角线上的元素为T的特征值, 则我们称T为可三角化的线性算子.
矩阵的三角化和线性变换的三角化具有相似的定义: 若A相似于以A特征值为主对角线元素的上三角矩阵, 我们则称矩阵A可三角化, 反之同样成立: 此时存在可逆矩阵Q和上三角矩阵P, 使得A=QPQ−1. 其中
P=λ1a12λ2⋯⋯⋱a1na2nλn,
λ1,⋯,λn为A的特征值. 如果Q为正交矩阵或酉矩阵, 原结论同样成立, 我们称A可正交三角化.
定义 4.10
设A,P∈Mn(F).
① 若F=R, 且存在正交矩阵Q, 使得A=QPQ⊤, 我们称A正交相似于P;
② 若F=C, 且存在酉矩阵Q, 使得A=QPQ∗, 我们称A酉相似于P.
下面的定理告诉了我们矩阵A在什么情况下可以正交三角化:
定理 4.15
设V为维数为n, 定义在数域F (R或C)上的内积空间. 则以下两个推论等价:
① 线性变换T:V→V的特征多项式可在F中分解, 即
CT(x)=(x−λ1)a1⋯(x−λk)ak,a1+⋯+ak=n;λi∈F;② 存在一组V的单位正交基β, 使得[T]β为上三角矩阵, 且[T]β的主对角线上的元素为T的特征值.
证明
② → ①: 假设存在满足条件的单位正交基β. 那么设T在任意基底下的矩阵形式为A, 则存在由β中的元素为列向量的矩阵Q, 使得A=Q[T]βQ∗, 即A,[T]β相似, 又因为相似矩阵的特征值相同, 故①得证.
① → ②. 我们将采用数学归纳法. 假设①成立. 设dim(V)=n. 首先若n=1, 那么结果显然成立. 我们假设结论②对所有dim(V)<n的正整数成立, 则我们需验证结论②对dim(V)=n时成立. 设λ1为T的一个特征值, v1为与之对应的特征向量, 且不失一般性地讲令∣∣v1∣∣=1. 利用Gram-Schmidt算法, 以v1为基础构造出V的一组单位正交基β={v1,⋯,vn}. 令P=(v1⋯vn), 则
A=P[T]βP−1.其中, 我们可以将[T]β写作
[T]β=([T(v1)]β⋯[T(vn)]β)=([λ1v1]β⋯[T(vn)]β)=(λ10n−1u⊤A1),0n−1代表维数为n−1的零向量; u为一未知向量, A1为未知(n−1)×(n−1)矩阵. 由于A,[T]β相似, 因此二者有相同的特征多项式, 因此[T]β的特征多项式可在F中分解. 那么根据数学归纳法原理, 矩阵A1可正交三角化. 即存在正交矩阵(或酉矩阵)Q∈Mn−1(F), 由A1的特征值为主对角线元素的上三角矩阵A2, 使得
A1=QA2Q−1.我们现在假设
R=(10n−10n−1⊤Q),那么不难发现矩阵R可逆. 除此之外, 注意到
R−1[T]βR=(10n−10n−1⊤Q−1)(λ00n−1u⊤A1)(10n−10n−1⊤Q)=(λ00n−1u⊤A2).因此R−1[T]βR为上三角矩阵. 同时由
R−1[T]βR=R−1P−1APR=(PR)−1A(PR)
可知, (PR)−1A(PR)为上三角矩阵. 由于P,Q均为正交矩阵(或酉矩阵), 则PQ同为正交矩阵(或酉矩阵). 因此根据定义T可正交三角化.
∎
推论 4.3
对任意的A∈Mn(C)而言, A单一相似(Unitarily Similar) 于一个上三角矩阵P. 即存在一组Cn的单位正交基{v1,⋯,vn}, 设矩阵Q=(v1⋯vn), 有
A=QPQ∗.其中P位于主对角线上的元素即为A的特征值.
{4.3 练习}
1. 对于下面定义在内积空间V上的线性变换T:V→V, 判断T是否为: 正规算子; 自伴算子; 酉算子 (当数域为R时, 我们把A∗当成A⊤处理即可).
(i) V=R2,T(ab)=(2a−2b−2a+5b);
(ii) V=R3,Tabc=−a+b5b4a−2b+5c;
(iii) V=C2,T(ab)=(2a+iba+2b);
(iv) V=P2(R),T(f(x))=f′(x). 其中⟨f(x),g(x)⟩=∫01f(x)⋅g(x)dx;
(v) V=M2(R),T(A)=A⊤.
2. 设A=111111111, 求出矩阵Q,P∈M3(R), 使得A=QPQ⊤.
3. 设A=02−2−2012−10, 求出矩阵Q,P∈M3(C), 使得A=QPQ∗.
4. 设定义在维数有限的内积空间V上的线性变换T:V→V为正规算子(即T∗T=TT∗, 或[T]β为正规矩阵). 证明:
(i) 对任意的v∈V,∣∣Tv∣∣=∣∣T∗v∣∣;
(ii) 对任意的λ∈F, T−λI为正则算子.
5. 设V为定义在C上的内积空间, T:V→V为线性变换. 定义T1,T2:V→V, 使得
T1=21(T+T∗);T2=2i1(T−T∗).
证明: T1,T2为自伴算子.
6. [简化版谱定理] 设V为定义在F上的内积空间, T:V→V为线性变换. 记T的矩阵形式为A. 证明: T为自伴算子的充要条件是矩阵A正交相似(或单一相似)于对角矩阵. 即存在正交矩阵(或酉矩阵) Q与对角矩阵P, 使得A=QPQ−1成立. 提示: 用Schur定理. 同时该定理还告诉我们如下性质:
- 若F=R, 那么A正交相似于对角矩阵的充要条件是A=A⊤;
- 若F=C, 那么A单一相似于对角矩阵的充要条件是A=A∗.