线性代数二三事

第4章：作用于内积空间的变换

4.2 内积空间的正交性

第4章 作用于内积空间的变换

在本节中,我们将讨论内积空间中的一个非常重要的性质:正交性 (Orthogonality).我们首先给出正交的定义:

定义 4.3

在内积空间VV中,设x,y∈V\vec x, \vec y \in V. 若⟨x,y⟩=⟨y,x⟩=0\langle \vec x, \vec y \rangle = \langle \vec y, \vec x \rangle = 0, 我们定义向量x,y\vec x, \vec y 正交, 记作x⊥y\vec x \perp \vec y.

正交和我们所熟知的垂直非常相似. 实际上, 向量x,y\vec x, \vec y相互垂直代表它们之间的数量积为00， 然后我们回顾定义, 在此情况下内积的定义便是数量积. 其实正交这一概念不单单用于向量之间, 函数之间同样可以引入正交的概念. 回顾上一节中的定义, 设f(x),g(x)f(x), g(x)为定义在[0,π][0,\pi]上的可积实数函数, 定义⟨f,g⟩\la f, g \ra如下:

⟨f(x),g(x)⟩=∫0πf(x)⋅g(x)dx.\la f(x), g(x) \ra = \int_0^\pi f(x) \cdot g(x) dx.

如果我们令f(x)=sin⁡(x),g(x)=cos⁡(x)f(x) = \sin (x), g(x) = \cos (x), 那么显而易见

∫0πsin⁡(x)cos⁡(x)dx=∫0π12sin⁡(2x)dx=0.\int_0^\pi \sin (x) \cos (x) dx = \int_0^\pi \frac{1}{2} \sin (2x) dx = 0.

因此我们称sin⁡(x)\sin(x)和cos⁡(x)\cos(x)在区间[0,π][0,\pi]上正交. 需要注意的是我们一定要强调区间, 如果改成[0,π2][0,\frac{\pi}{2}]的话二者便不再正交了.

接下来我们定义向量的正交投影 (Orthogonal Projection):

定义 4.4

在内积空间VV中,设x,y∈V\vec x, \vec y \in V, 我们定义向量x\vec x在向量y\vec y方向上的正交投影projy(x)\proj_{\vec y}({\vec x})为

projy(x)=⟨x,y⟩∥y∥2⋅y.\proj_{\vec y}(\vec x) = \frac{\langle \vec x, \vec y \rangle}{\Vert \vec y \Vert^2} \cdot\vec y.

不难发现, 若x,y\vec x, \vec y正交, projy(x)=projx(y)=0\proj_{\vec y}(\vec x) = \proj_{\vec x}(\vec y) = 0. 我们可以回顾物理学中讲到过的正交分解: 即把一个向量x\vec x分解成与y\vec y平行和垂直的两个向量. 其中正交投影projy(x)\proj_{\vec y}(\vec x)即表示x\vec x沿平行于y\vec y方向上的分解, 也故叫做正交投影. 由此我们同样不难发现,

x−projy(x)⊥y.\vec x - \proj_{\vec y}(\vec x) \perp \vec y.

根据定义我们很容易发现x⊥y\vec x \perp \vec y代表x,y\vec x, \vec y线性无关. 那么我们是不是自然地联想到由正交向量所构成的基底呢?

定义 4.5

设内积空间VV的一组基底为β={u1,u2,⋯ ,un}\beta = \lbrace \vec u_1, \vec u_2, \cdots, \vec u_n \rbrace. 若对任意的(i≠j),⟨ui,uj⟩=0(i \neq j), \la \vec u_i, \vec u_j \ra = 0, 我们则称β\beta为一组正交基 (Orthogonal Basis). 特别地, 如果对任意的i,∣∣ui∣∣=1i, ||\vec u_i||=1, 我们称β\beta为一组单位正交基 (Orthonormal Basis).

任意有限维内积空间都存在正交基与单位正交基. 比如在R2\mathbb{R}^2中, 我们熟知的e1=(10)\vec e_1 = \begin{pmatrix} 1 \\ 0 \end{pmatrix}以及e2=(01)\vec e_2 = \begin{pmatrix} 0 \\ 1 \end{pmatrix}便是一组单位正交基. 相较于其他的基底, (单位)正交基有什么优点?

不妨设内积空间VV的一组单位正交基为β={u1,u2,⋯ ,un}\beta = \lbrace \vec u_1, \vec u_2, \cdots, \vec u_n \rbrace, 那么对于任意的v∈V\vec v \in V, 我们设

v=c1u1+c2u2+⋯+cnun.\vec v = c_1 \vec u_1 + c_2 \vec u_2 + \cdots + c_n \vec u_n.

那么此时我们根据定义便有

projui(v)=⟨v,ui⟩ui=⟨c1u1+c2u2+⋯+cnun,ui⟩=c1⟨u1,ui⟩+c2⟨u2,ui⟩+⋯+cn⟨un,ui⟩=ci⟨ui,ui⟩=ci.\begin{aligned} \proj_{\vec u_i} (\vec v) &= \langle \vec v , \vec u_i \rangle \vec u_i \\ & = \langle c_1 \vec u_1 + c_2 \vec u_2 + \cdots + c_n \vec u_n , \vec u_i \rangle \\ & = c_1 \langle \vec u_1 , \vec u_i \rangle + c_2 \langle \vec u_2 , \vec u_i \rangle + \cdots + c_n \langle \vec u_n , \vec u_i \rangle \\ & = c_i \langle \vec u_i , \vec u_i \rangle \\ & = c_i. \end{aligned}

同理我们可以得到proju1(v)=c1\proj_{\vec u_1}(\vec v) = c_1, 等等. 于是将这些式子加和, 我们得到一个重要的公式:

定理 4.4

设β={u1,⋯ ,un}\beta=\{\vec u_1,\cdots,\vec u_n\}为一组单位正交基, v=∑i=1nciui\vec v = \sum_{i=1}^n c_i \vec u_i, 则

v=∑i=1n⟨v,ui⟩ui=∑i=1nprojui(v).\vec v = \sum_{i=1}^n \langle \vec v, \vec u_i \rangle \vec u_i = \sum_{i=1}^n \proj_{\vec u_i} (\vec v).

其中, ⟨v,ui⟩\langle \vec v, \vec u_i \rangle被称作是v\vec v的 傅立叶系数 (Fourier Coefficients).

在单位正交基β\beta中我们还可以快速地算出线性变换T:V→V\vec T:V \to V所对应的矩阵[T]β[\vec T]_\beta. 根据定义我们知道[T]β[\vec T]_\beta的第jj列即为[T(uj)]β[\vec T(\vec u_j)]_{\beta}, 如果我们设

[T(uj)]β=(c1⋯cn)⊤,[\vec T(\vec u_j)]_\beta = \begin{pmatrix} c_1 & \cdots & c_n \end{pmatrix}^\top,

那么根据定义我们便有

T(uj)=c1u1+⋯+cnun.\vec T(\vec u_j) = c_1\vec u_1 + \cdots + c_n \vec u_n.

此时对所有的ii， 我们考虑⟨T(uj),ui⟩\la \vec T(\vec u_j), \vec u_i \ra, 那么我们有

⟨T(uj),ui⟩=⟨c1u1+⋯+cnun,ui⟩=ci.\la\vec T(\vec u_j), \vec u_i \ra = \la c_1\vec u_1+ \cdots+c_n \vec u_n , \vec u_i \ra = c_i.

因此

[T(uj)]β=(⟨T(uj),u1⟩⟨T(uj),u2⟩⋯⟨T(uj),un⟩)⊤.[\vec T(\vec u_j)]_{\beta} = \begin{pmatrix} \langle \vec T(\vec u_j) , \vec u_1 \rangle & \langle \vec T(\vec u_j) , \vec u_2 \rangle & \cdots & \langle \vec T(\vec u_j) , \vec u_n \rangle \end{pmatrix}^\top.

由此我们得出以下推论:

定理 4.5

对于线性变换T:V→V\vec T:V \to V而言, 设β\beta为一组单位正交基, 那么

[T]β=(⟨T(uj),ui⟩)ij=(⟨T(u1),u1⟩⋯⟨T(un),u1⟩⟨T(u1),u2⟩⋯⟨T(un),u2⟩⋮⋱⋮⟨T(u1),un⟩⋯⟨T(un),un⟩).[\vec T]_{\beta} = \left( \langle \vec T(\vec u_j) , \vec u_i \rangle \right)_{ij} = \begin{pmatrix} \langle \vec T(\vec u_1) , \vec u_1 \rangle & \cdots & \langle \vec T(\vec u_n) , \vec u_1 \rangle \\ \langle \vec T(\vec u_1) , \vec u_2 \rangle & \cdots & \langle \vec T(\vec u_n) , \vec u_2 \rangle \\ \vdots & \ddots & \vdots \\ \langle \vec T(\vec u_1) , \vec u_n \rangle & \cdots & \langle \vec T(\vec u_n) , \vec u_n \rangle \end{pmatrix}.

单位正交基还有另外一条性质: 我们不妨先设矩阵P\vec P的列向量即为单位正交基中的元素:

P∈Mn(C)=(u1u2⋯un),\vec P \in M_n(\mathbb{C}) = \begin{pmatrix} \vec u_1 & \vec u_2 & \cdots & \vec u_n \end{pmatrix},

随后我们令P∗:=P‾⊤\vec P^* := \overline{\vec P}^\top (即P\vec P的共轭转置), 由此我们发现

P∗P=(u1‾⋮un‾)⋅(u1⋯un)=(∣∣u1∣∣2⟨u2‾,u1⟩⋯⟨un‾,u1⟩⟨u1‾,u2⟩∣∣u2∣∣2⋯⟨un‾,u2⟩⋮⋮⋱⋮⟨u1‾,un⟩⋯⟨un−1‾,un⟩∣∣un∣∣2)=I.\vec P^* \vec P = \begin{pmatrix} \overline{\vec u_1} \\ \vdots \\ \overline{\vec u_n} \end{pmatrix} \cdot \begin{pmatrix} \vec u_1 & \cdots & \vec u_n \end{pmatrix} = \begin{pmatrix} ||\vec u_1||^2 & \la \overline{\vec u_2}, \vec u_1 \ra & \cdots & \langle \overline{\vec u_n} , \vec u_1 \rangle \\ \langle \overline{\vec u_1} , \vec u_2 \rangle & ||\vec u_2||^2 &\cdots & \langle \overline{\vec u_n} , \vec u_2 \rangle \\ \vdots & \vdots &\ddots & \vdots \\ \langle \overline{\vec u_1} , \vec u_n \rangle & \cdots & \la \overline{\vec u_{n-1}}, \vec u_n \ra &||\vec u_n||^2 \end{pmatrix} = \vec I.

同理, 我们还可以得到PP∗=I\vec P\vec P^* = \vec I. 由于P\vec P可逆, 所以我们也通常把这种关系写作P∗=P−1\vec P^* = \vec P^{-1}. 同时当数域为R\mathbb{R}时, 我们有P⊤=P−1\vec P^\top = \vec P^{-1}. 我们给出满足这种条件的矩阵的定义:

定义 4.6

设矩阵P=(u1u2⋯un)\vec P = \begin{pmatrix} \vec u_1 & \vec u_2 & \cdots & \vec u_n \end{pmatrix}. 那么:

① 若数域为R\mathbb{R}, 且 P⊤=P−1,\vec P^\top = \vec P^{-1}, 我们称矩阵P\vec P为正交矩阵 (Orthogonal Matrix);

② 若数域为C\mathbb{C}, 且 P∗=P−1\vec P^* = \vec P^{-1} 我们称矩阵P\vec P为酉矩阵 (Unitary Matrix).

根据我们以上的推理, 我们不难发现由正交单位基为列向量所构成的矩阵即为正交矩阵(或酉矩阵).

我们此时已经知道单位正交基有着非常多美好的性质, 那么我们该如何构建一个单位正交基呢? 如果任意给出一组基底γ\gamma, 我们该通过怎么样的运算将γ\gamma转变成为单位正交基呢? 我们所运用的原理即为 x−projy(x)⊥y\vec x - \proj_{\vec y} (\vec x) \perp \vec y这一公式. 我们不难发现,∑i=1k−1⟨vk,ui⟩∣∣ui∣∣2⋅ui\displaystyle{\sum_{i=1}^{k-1}} \frac{\langle \vec v_k , \vec u_i \rangle }{||\vec u_i||^2}\cdot\vec u_i即为vk\vec v_k在Span(u1,u2,⋯ ,uk−1)\Span(\vec u_1, \vec u_2, \cdots, \vec u_{k-1})上的正交投影, 由此我们便有

vk−∑i=1k−1⟨vk,ui⟩∣∣ui∣∣2⋅ui⊥Span(u1,u2,⋯ ,uk−1).\vec v_k - \sum_{i=1}^{k-1} \frac{\la \vec v_k, \vec u_i \ra}{||\vec u_i||^2}\cdot \vec u_i \perp \Span(\vec u_1, \vec u_2, \cdots, \vec u_{k-1}).

这种算法也被我们称作是施密特算法 (Gram-Schmidt Algorithm):

定理 4.6

给定内积空间VV的任意一组基底β={v1,v2,⋯ ,vn}\beta = \lbrace \vec v_1, \vec v_2, \cdots, \vec v_n \rbrace, 然后进行以下步骤:

① 令w1=v1\vec w_1 = \vec v_1;

② 对于vk\vec v_k (2≤k≤n2 \leq k \leq n), 令

wk=vk−∑i=1k−1⟨vk,wi⟩∣∣wi∣∣2wi;\vec w_k = \vec v_k - \sum_{i=1}^{k-1} \frac{\langle\vec v_k , \vec w_i \rangle}{||\vec w_i||^2} \vec w_i;

③ 对于i=1,⋯ ,ni=1,\cdots,n, 令ui=wi∥wi∥\vec u_i = \displaystyle{\frac{\vec w_i}{\Vert \vec w_i \Vert}}.

则γ={u1,u2,⋯ ,un}\gamma = \lbrace \vec u_1, \vec u_2, \cdots, \vec u_n \rbrace为VV的一组单位正交基.

值得注意的是, 在Gram-Schmidt算法中, 我们得到的{w1,⋯ ,wn}\{ \vec w_1,\cdots, \vec w_n \}为一个正交基 (Orthogonal Basis), 即wi⊥wj,∀i≠j\vec w_i \perp \vec w_j, \forall i \neq j. 通过对其进行单位化, 我们便可以得到一组单位正交基.

例题 4.2

设v1=(110),v2=(101),v3=(011)\vec v_1 = \begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix}, \vec v_2 = \begin{pmatrix} 1 \\ 0 \\1 \end{pmatrix}, \vec v_3 = \begin{pmatrix} 0 \\ 1 \\ 1 \end{pmatrix}, 根据Gram-Schmidt算法构建出一组单位正交基.

解答 4.2

首先我们令w1=v1=(110)\vec w_1 = \vec v_1 = \begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix}. 在Rn\mathbb{R}^n中, 内积即为数量积. 随后我们按照定义得出

w2=v2−⟨v2,w1⟩∣∣w1∣∣2⋅w1=(101)−12(101)=(12−121).\vec w_2 = \vec v_2 - \frac{\la \vec v_2, \vec w_1 \ra}{||\vec w_1||^2}\cdot\vec w_1 = \begin{pmatrix} 1 \\ 0 \\1 \end{pmatrix} - \frac{1}{2}\begin{pmatrix} 1 \\0 \\1 \end{pmatrix} = \begin{pmatrix} \frac{1}{2} \\ -\frac{1}{2} \\1 \end{pmatrix}.

此时我们不妨验证一下w1⊥w2\vec w_1 \perp \vec w_2: ⟨w1,w2⟩=12−12=0\la \vec w_1 , \vec w_2 \ra = \frac{1}{2}-\frac{1}{2} = 0. 为了方便后续运算, 我们可以将w2\vec w_2的所有坐标均扩大一倍, 即w2=(1−12)⊤\vec w_2 = \begin{pmatrix} 1 & -1 & 2 \end{pmatrix}^\top， 这样在后续计算模的时候便会简便很多. 在此情况下我们同样可以给出w3\vec w_3的表达式:

w3=v3−⟨v3,w1⟩∣∣w1∣∣2⋅w1−⟨v3,w2⟩∣∣w2∣∣2⋅w2=(011)−12(110)−16(1−12)=(−232323).\begin{aligned} \vec w_3 = \vec v_3 - \frac{\la \vec v_3, \vec w_1 \ra}{||\vec w_1||^2} \cdot \vec w_1 - \frac{\la \vec v_3, \vec w_2\ra}{||\vec w_2||^2} \cdot \vec w_2 =\begin{pmatrix} 0 \\ 1 \\1 \end{pmatrix} -\frac{1}{2}\begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix} - \frac{1}{6}\begin{pmatrix} 1 \\ -1 \\2 \end{pmatrix} =\begin{pmatrix} -\frac{2}{3} \\ \frac{2}{3} \\ \frac{2}{3} \end{pmatrix}. \end{aligned}

由此我们得到的一组正交基为

{(110),(1−12),(−232323)}.\left\{\begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix}, \begin{pmatrix} 1 \\ -1 \\2 \end{pmatrix}, \begin{pmatrix} -\frac{2}{3} \\ \frac{2}{3} \\ \frac{2}{3} \end{pmatrix}\right\}.

通过单位化, 我们得到的单位正交基为

{(1/21/20),(1/6−1/62/6),(−1/31/31/3)}.\left\{\begin{pmatrix} 1/\sqrt{2} \\ 1/\sqrt{2} \\ 0 \end{pmatrix}, \begin{pmatrix} 1/\sqrt{6} \\ -1/\sqrt{6} \\2/\sqrt{6} \end{pmatrix}, \begin{pmatrix} -1/\sqrt{3} \\ 1/\sqrt{3} \\ 1/\sqrt{3} \end{pmatrix}\right\}.

例题 4.3

设P2([0,1])P_2([0,1])代表定义在[0,1][0,1]上的实数二次多项式. 设f(x),g(x)∈P2([0,1])f(x), g(x) \in P_2([0,1]), 定义内积运算为

⟨f(x),g(x)⟩=∫01f(x)g(x)dx.\la f(x), g(x) \ra = \int_0^1 f(x) g(x) dx.

据此求出P2([0,1])P_2([0,1])的一组正交基.

解答 4.3

我们首先取一组P2([0,1])P_2([0,1])的基底: α={f0(x)=1,f1(x)=1+x,f2(x)=1+x+x2}\alpha = \{ f_0(x) = 1, f_1(x)=1+x, f_2(x)=1+x+x^2\}. 随后根据Gram-Schmidt算法, 令g0(x)=1g_0(x)=1, 那么

g1(x)=f1(x)−⟨f1(x),g0(x)⟩∣∣g0(x)∣∣L22⋅g0(x).g_1(x) = f_1(x) - \frac{\la f_1(x), g_0(x)\ra}{||g_0(x)||^2_{L^2}}\cdot g_0(x).

回顾我们对于实数多项式内积的定义, 我们有

⟨f1(x),g0(x)⟩=∫01f1(x)⋅g0(x)dx=∫01(1+x)dx=32,\la f_1(x), g_0(x) \ra = \int_0^1 f_1(x)\cdot g_0(x) dx = \int_0^1 (1+x)dx = \frac{3}{2},∣∣g0(x)∣∣L22=∫01g02(x)dx=∫011dx=1.||g_0(x)||_{L^2}^2 = \int_0^1 g_0^2(x) dx = \int_0^1 1 dx = 1.

则

g1(x)=1+x−32⋅1=x−12.g_1(x) = 1+x-\frac{3}{2}\cdot 1 = x-\frac{1}{2}.

对于g2(x)g_2(x)， 同理

g2(x)=f2(x)−⟨f2(x),g0(x)⟩∣∣g0(x)∣∣L22⋅g0(x)−⟨f2(x),g1(x)⟩∣∣g1(x)∣∣L22⋅g1(x)=1+x+x2−∫01(1+x+x2)dx∫011dx⋅1−∫01(x−12)(1+x+x2)dx∫01(x−12)2dx⋅(x−12)=x2−x+16.\begin{aligned} g_2(x) &= f_2(x) - \frac{\la f_2(x), g_0(x)\ra}{||g_0(x)||_{L^2}^2}\cdot g_0(x) - \frac{\la f_2(x), g_1(x) \ra}{||g_1(x)||_{L^2}^2}\cdot g_1(x)\\ &=1+x+x^2-\frac{\int_0^1 (1+x+x^2) dx}{\int_0^1 1 dx}\cdot 1 - \frac{\int_0^1 (x-\frac{1}{2})(1+x+x^2)dx}{\int_0^1(x-\frac{1}{2})^2dx} \cdot (x-\frac{1}{2} )\\ &=x^2-x+\frac{1}{6}. \end{aligned}

由此我们得出P2([0,1])P_2([0,1])的一组正交基为

{g0(x)=1,g1(x)=x−12,g2(x)=x2−x+16}.\left\{ g_0(x) = 1, g_1(x) = x-\frac{1}{2}, g_2(x) = x^2 - x+\frac{1}{6} \right\}.

(读者可以自行尝试将其转化为单位正交基, 只不过运算量会比较大).

定义 4.7

设U⊆V\mathcal{U} \subset V, 我们定义U\mathcal{U}的正交补(Orthogonal Complement) U⊥\mathcal{U}^\perp为

U⊥:={v∈V:∀u∈U,⟨u,v⟩=0}.\mathcal{U}^\perp :=\{ \vec v \in V : \forall\vec u \in \mathcal{U}, \la \vec u, \vec v\ra = \vec 0 \}.

在我们研究更多性质之前, 我们先提出一个简单的推论:

推论 4.2

设A∈Mn(R)\vec A \in M_{n}(\mathbb{R}), x,y∈Rn\vec x , \vec y \in \mathbb{R}^n. 则⟨x,Ay⟩=⟨A⊤x,y⟩.\la \vec x, \vec A\vec y \ra = \la \vec A^\top\vec x, \vec y \ra.

证明

显而易见, ⟨x,Ay⟩=x⊤(Ay)=(x⊤A)y=(A⊤x)⊤y=⟨A⊤x,y⟩.\la \vec x,\vec A\vec y \ra = \vec x^\top (\vec A\vec y)=(\vec x^\top\vec A)\vec y = (\vec A^\top \vec x)^\top\vec y = \la \vec A^\top\vec x, \vec y \ra.

∎

我们可以利用此推论去证明下面的定理:

定理 4.7

设A∈Mn(R)\vec A \in M_{n}(\mathbb{R}), 则:

①Ker(A⊤)=Im(A)⊥;②Im(A⊤)=Ker(A)⊥.\text{①} \Ker(\vec A^\top) = \image(\vec A)^\perp; \quad \text{②} \image(\vec A^\top) = \Ker(\vec A)^\perp.

证明

对于①而言, 我们设y∈Im(A)⊥\vec y \in \image(\vec A)^\perp, 那么对任意的x∈Rn\vec x \in \mathbb{R}^n, ⟨y,Ax⟩=0\la \vec y, \vec A\vec x \ra = 0. 由推论4.24.2， 我们便知道⟨A⊤y,x⟩=0\la \vec A^\top\vec y, \vec x \ra = 0. 由于x\vec x为任意Rn\mathbb{R}^n中的向量, 那么我们有A⊤y=0\vec A^\top\vec y = \vec 0, 即y∈Ker(A⊤)\vec y \in \Ker(\vec A^\top) (注意到我们的每一步运算均为“当且仅当”), 因此等式①得证; ②所用到的方法与①完全相同.

∎

例题 4.4

设x=(11−12)⊤⊆R4\vec x= \begin{pmatrix} 1 & 1 & -1 & 2 \end{pmatrix}^\top \subset \mathbb{R}^4. 求出x⊥\vec x^\perp的一组正交基.

解答 4.4

我们设y=(abcd)⊤∈x⊥\vec y=\begin{pmatrix} a & b & c & d \end{pmatrix}^\top \in \vec x^\perp. 由定义可知⟨x,y⟩=0\la \vec x, \vec y \ra = 0, 即a+b−c+2d=0a+b-c+2d=0. 在这个方程中有三个自由变量, 因此原式的解集可以写作

y=s(−1100)+t(1010)+r(−2001).\vec y = s\begin{pmatrix} -1 \\1 \\0 \\0 \end{pmatrix} + t\begin{pmatrix} 1 \\ 0 \\ 1 \\ 0 \end{pmatrix} + r\begin{pmatrix} -2 \\ 0 \\ 0 \\ 1 \end{pmatrix}.

由此我们得出x⊥\vec x^\perp的一组基底为v1=(−1100),v2=(1010),v3=(−2001)\vec v_1=\begin{pmatrix} -1 \\1 \\0 \\0 \end{pmatrix} , \vec v_2= \begin{pmatrix} 1 \\ 0 \\ 1 \\ 0 \end{pmatrix} , \vec v_3=\begin{pmatrix} -2 \\ 0 \\ 0 \\ 1 \end{pmatrix}.

随后我们便可以通过Gram-Schmidt算法将{v1,v2,v3}\{\vec v_1,\vec v_2,\vec v_3\}转化为一组单位正交基:

w1=(−1100)⊤;w2=v2−⟨v2,w1⟩∣∣w1∣∣2⋅w1=(121210)⊤;w3=v3−⟨v3,w1⟩∣∣w1∣∣2⋅w1−⟨v3,w2⟩∣∣w2∣∣2⋅w2=(−23−23231)⊤.\begin{aligned} \vec w_1 &= \begin{pmatrix} -1 &1 &0 &0 \end{pmatrix}^\top;\\ \vec w_2 &= \vec v_2-\frac{\la \vec v_2, \vec w_1 \ra}{||\vec w_1||^2} \cdot \vec w_1 = \begin{pmatrix} \frac{1}{2} & \frac{1}{2} & 1 & 0 \end{pmatrix}^\top;\\ \vec w_3 &= \vec v_3 - \frac{\la \vec v_3, \vec w_1 \ra}{||\vec w_1||^2} \cdot \vec w_1 - \frac{\la \vec v_3,\vec w_2 \ra}{||\vec w_2||^2} \cdot \vec w_2 = \begin{pmatrix} -\frac{2}{3} & -\frac{2}{3} & \frac{2}{3} & 1 \end{pmatrix}^\top. \end{aligned}

最后再将w1,w2,w3\vec w_1,\vec w_2,\vec w_3单位化, 我们即得到x⊥\vec x^\perp的一组单位正交基为

{(−121200),(1616260),(−221−221221321)}.\left\{\begin{pmatrix} -\frac{1}{\sqrt{2}} \\ \frac{1}{\sqrt{2}} \\ 0 \\ 0 \end{pmatrix}, \begin{pmatrix}\frac{1}{\sqrt{6}} \\ \frac{1}{\sqrt{6}} \\ \frac{2}{\sqrt{6}} \\ 0 \end{pmatrix}, \begin{pmatrix}-\frac{2}{\sqrt{21}} \\ -\frac{2}{\sqrt{21}} \\ \frac{2}{\sqrt{21}} \\ \frac{3}{\sqrt{21}} \end{pmatrix} \right\}.

{4.2 练习}

1. 利用Gram-Schmidt算法, 将下列基底转化为单位正交基:

(a):{(1−11),(101),(112)};(b):{(1110),(1101),(1011),(0111)}.\text{(a)}: \left\{ \begin{pmatrix} 1 \\ -1 \\ 1 \end{pmatrix}, \begin{pmatrix} 1 \\ 0 \\1 \end{pmatrix}, \begin{pmatrix} 1 \\ 1 \\2 \end{pmatrix} \right\}; \quad \text{(b)}: \left\{ \begin{pmatrix} 1 \\ 1 \\ 1 \\ 0 \end{pmatrix}, \begin{pmatrix} 1 \\ 1 \\ 0\\1 \end{pmatrix}, \begin{pmatrix} 1 \\0 \\ 1 \\1\end{pmatrix}, \begin{pmatrix} 0 \\ 1 \\ 1 \\1 \end{pmatrix} \right\}.

2. 设P2([−1,1])P_2([-1,1])代表定义在[−1,1][-1,1]上的实数二次多项式. 在此情况下定义内积为

⟨f(x),g(x)⟩=∫−11f(x)⋅g(x)dx,\la f(x), g(x) \ra = \int_{-1}^1 f(x)\cdot g(x) dx,

利用Gram-Schmidt算法, 求出P2([−1,1])P_2([-1,1])的一组正交基γ={φ0(x),φ1(x),φ2(x)}\gamma=\{\phi_0(x), \phi_1(x), \phi_2(x)\}.

3. 在R3\mathbb{R}^3中, 计算向量v=(12−1)\vec v = \begin{pmatrix} 1 \\ 2 \\ -1 \end{pmatrix}在平面x+y+z=0x+y+z=0上的正交投影.

4. 设P2([0,2])P_2([0,2])代表定义在[0,2][0,2]上的实数二次多项式. 定义内积为

⟨f(x),g(x)⟩=∫02f(x)g(x)dx.\la f(x), g(x) \ra = \int_0^2 f(x)g(x)dx.

记α={1,x−x2,x+x2}\alpha = \{ 1, x-x^2, x+x^2\}为P2([0,2])P_2([0,2])的一组基底; W=Span(1,x)W=\Span(1, x). 线性变换T:P2([0,2])→P2([0,2])\vec T: P_2([0,2]) \to P_2([0,2])满足 T(f(x))=projW(f(x)).\vec T(f(x)) =\proj_W(f(x)). 据此求变换矩阵[T]αα[\vec T]_\alpha^\alpha.

5. 记v1=(1101),v2=(0112)\vec v_1 = \begin{pmatrix} 1 \\ 1 \\ 0 \\ 1 \end{pmatrix}, \vec v_2 = \begin{pmatrix} 0 \\ 1 \\ 1 \\ 2 \end{pmatrix}. 若u=(3−102)\vec u = \begin{pmatrix} 3 \\ -1 \\ 0 \\ 2 \end{pmatrix}, 求出满足条件的u1,u2\vec u_1,\vec u_2. 使得u=u1+u2\vec u = \vec u_1+\vec u_2, u1∈Span(v1,v2),u2∈Span(v1,v2)⊥\vec u_1 \in \Span(\vec v_1,\vec v_2), \vec u_2 \in \Span(\vec v_1,\vec v_2)^\perp.

6. [投影变换] 设VV为线性空间, 若线性变换T:V→V\vec T: \vec V \to \vec V满足 T2=T\vec T^2 = \vec T, 我们则称T\vec T为投影变换, 其对应的矩阵为投影矩阵.

(i) 设v∈V,U⊆V\vec v \in V, U \subset V, T(v)=projU(v)\vec T(\vec v) = \proj_U(\vec v). 证明: Im(T)=U,Ker(T)=U⊥\image(\vec T) = U, \Ker(\vec T) = U^\perp;

(ii) 若矩阵X⊤X\vec X^\top\vec X 可逆, 证明X(X⊤X)−1X⊤\vec X(\vec X^\top\vec X)^{-1}\vec X^\top以及X⊤(XX⊤)−1X\vec X^\top(\vec X\vec X^\top)^{-1}\vec X均为投影矩阵;

(iii) 若T\vec T为投影变换, 证明I−T\vec I - \vec T也为投影变换, 且Im(T)=Im(I−T)⊥\image(\vec T) = \image(\vec I - \vec T)^\perp.

7. [Fourier 级数] 给出在区间(−l,l)(-l,l)上有定义的实数函数φ(x)\phi(x), 我们定义φ(x)\phi(x)在(−l,l)(-l,l)上的Fourier级数为

φ(x)=12A0+∑n=1∞(Ancos⁡nπxl+Bnsin⁡nπxl),\phi(x) = \frac{1}{2}A_0 + \sum_{n=1}^\infty \left( A_n \cos \frac{n \pi x}{l} + B_n \sin \frac{n\pi x}{l} \right),

其中

An=1l∫−llφ(x)cos⁡(πnxl)dx;Bn=1l∫−llφ(x)sin⁡(nπxl).A_n = \frac{1}{l} \int_{-l}^l \phi(x) \cos\left( \frac{\pi n x}{l} \right)dx; \quad B_n = \frac{1}{l} \int_{-l}^l \phi(x) \sin\left( \frac{n\pi x}{l} \right).

(i) 假设f(x),g(x)f(x), g(x)的内积为

⟨f(x),g(x)⟩=∫0πf(x)g(x)dx,\la f(x), g(x) \ra = \int_0^\pi f(x) g(x) dx,

且m,nm,n为正整数, m≠nm\neq n. 证明: sin⁡(πmxl),sin⁡(πnxl)\displaystyle{\sin\left(\frac{\pi m x}{l}\right), \sin\left( \frac{\pi n x}{l} \right)}在(0,l)(0,l)上正交; cos⁡(πmxl),cos⁡(πnxl)\displaystyle{\cos\left(\frac{\pi m x}{l}\right), \cos\left( \frac{\pi n x}{l} \right)}在(0,l)(0,l)上正交.

(ii) 证明1−13+15−17+19−⋯=π41-\frac{1}{3}+\frac{1}{5}-\frac{1}{7}+\frac{1}{9} - \cdots = \frac{\pi}{4}. 提示: 设φ(x)=x\phi(x)=x, 然后求其在(−π,π)(-\pi,\pi)上的Fourier级数;

(iii) 证明1+132+152+172+⋯=π281+\frac{1}{3^2}+\frac{1}{5^2}+\frac{1}{7^2}+\cdots = \frac{\pi^2}{8}. 提示: 设φ(x)={π+x−π≤x≤0π−x0≤x≤π\phi(x) = \begin{cases} \pi + x & -\pi \leq x \leq 0 \\ \pi -x & 0 \leq x \leq \pi \end{cases}.

4.1 内积空间的基本定义与性质

第4章 作用于内积空间的变换

4.3 矩阵的正交对角化

第4章 作用于内积空间的变换