从本章开始我们将着重讨论线性代数在不同领域的应用. 在本章里我们将学会如何运用线性代数的知识去解决微分方程组的解集和稳定性问题.
微分方程可以看作是由一个未知的函数f与其导数所构成的方程. 微分方程可以主要分成两大类: 常微分方程 (Ordinary Differential Equations (ODEs) 和 偏微分方程 (Partial Differential Equations (PDEs). 在常微分方程中未知函数为一元函数y(t); 而在偏微分方程中未知函数y为一个多元函数y(t,x1,⋯,xn). 我们将重点讨论常微分方程(组). 下面是几个微分方程的例子:
- ut(t,x)=kuxx(t,x), 该方程为偏微分方程;
- y′(t)=y(t), 该方程为一阶常微分方程(最高次导数次数为1);
- y′′(t)+3y′(t)+4y(t)=0, 该方程为二阶常微分方程.
对于上面出现的y′′(t)+3y′(t)+4y(t)=0, 如果我们假设y1(t)=y(t),y2(t)=y′(t), 那么原式便可以写作
(y1′(t)y2′(t))=(y2(t)−4y1(t)−3y2(t))=(0−41−3)(y1(t)y2(t)).
我们发现了什么? 是不是我们可以把一个常微分方程也写作是一个线性方程组呢? 这样一来我们便有
y′(t)=Ay(t),
然后我们便可以尝试运用线性代数的知识进行求解了. 有了方程以后, 我们所关心的自然便是方程的解. 对于常微分方程而言, 我们希望原方程可以得到一个唯一解. 但值得注意的是并不是所有的方程都可以得到唯一解, 比如在y′(t)=y1/3(t);y(0)=0这个方程里面, y1(t)=0 以及y2(t)=32t3/2均为满足条件的原方程的解. 我们该如何去避免这种情况? 为此我们先引出一条定义.
定义 6.1
设函数f:D⊆R→R, ∣∣⋅∣∣是定义在R上的任何模. 若对任意的x,y∈D, 存在L>0使得
∣∣f(x)−f(y)∣∣≤L∣∣x−y∣∣,我们则称f在D上Lipschitz连续, 满足条件的最小值L为Lipschitz常数.
我们来做一些练习:
例题 6.1
判断下列函数是否在D上Lipschitz连续:
① f(t)=3t+5,D=R;
② f(t)=t1,D=(0,∞).
解答 6.1
∀x,y∈D, 取模为绝对值, 那么
对于①而言, ∣f(x)−f(y)∣=∣3x+5−3y−5∣=∣3x−3y∣=3∣x−y∣. 不难发现f为Lipschitz连续, 且Lipschitz常数为3;
对于②而言, 我们发现当x,y→0时函数的斜率及函数值趋近于正无穷. 在此情况下L不存在. 但是如果取任意的δ>0, 函数f(t)=t1在(δ,∞)上便为Lipschitz连续. 这是因为根据Lagrange中值定理, 对任意的x,y∈(δ,∞),x<y, 存在z∈(x,y)使得
f(y)−f(x)=f′(z)⋅(y−x)=−(z)21⋅(y−x)≤sup−(z)21⋅(y−x):=δ21⋅(y−x),其中L=δ21即为Lipschitz常数.
我们由此对Lipschitz连续的概念进行扩充:
定义 6.2
设函数f:D⊆R→R, ∣∣⋅∣∣是定义在R上的任何模. 若对任意的x,y∈D, D的紧凑子集K⊆D, 存在L(K)>0使得
∣∣f(x)−f(y)∣∣≤L∣∣x−y∣∣,我们则称f在D上局部Lipschitz连续, 记作f∈LLC(D).
由于我是在讲线性代数而不是数学分析, 我们将不多做紧凑集的解释. 不过很好的一点是根据Heine-Borel定理, D⊆Rn为紧凑集的充要条件是D闭合且有界. 我们可以视作D即为闭区间 (形如[a,∞);(−∞,a]也为闭区间).
在常微分方程里面, 我们设y(t)为关于t的一个一元函数, y′(t)为y(t)关于t的导数, 那么我们可以将该微分方程写成如下的形式:
y′(t)=f(y(t),t).
对于高阶的常微分方程而言, 我们可以通过本节最开始所作的变换, 将高阶常微分方程写成是若干个形如上式的一阶常微分方程组:
y′(t)=f(y(t),t)=(y1′(t)=f1(y1(t),t),⋯,yn′(t)=fn(yn(t),t)).
对于多元函数f(x,t)而言, 我们同样可以给出局部Lipschitz连续的定义:
定义 6.3
设函数f:D⊆Rn→R, ∣∣⋅∣∣是定义在Rn上的任何模. 若对任意的x,y∈D, D的紧凑子集K⊆D, 存在L(K)>0使得
∣∣f(x)−f(y)∣∣≤L∣∣x−y∣∣,我们则称f在D上局部Lipschitz连续, 记作f∈LLC(D).
最后, 我们再强调一下微分方程的初始条件. 回顾不定积分的知识, 我们知道在不定积分的最后会有一个常数项+C: 这是因为常函数的导数是零. 与不定积分类似,微分方程通常会有一族解. 为了从这一族解中确定唯一的一条解曲线, 我们需要给定初始条件, 例如y(t0)=y0. 随后我们就可以提出本章的理论基础了: 微分方程的存在唯一性定理 (Existence and Uniqueness Theorem).
定理 6.1
设D⊆Rn,I=(a,b)⊆R为开子集, 函数f:D×(a,b)→Rn 在D×(a,b)上局部Lipschitz连续. 那么存在J⊆I⊆R,t0∈J, 使得方程
{y′(t)y(t0)=f(y(t),t)=y0在J上有唯一解.
接下来, 我们将逐步证明这一定理.
推论 6.1
函数y(t) 为方程{y′(t)y(t0)=f(y(t),t)=y0的解当且仅当
y(t)=y0+∫t0tf(y(s),s)ds.
证明
(⟹) : 假设y(t)为原方程的解, 那么
∫t0ty′(t)dt=∫t0tf(y(s),s)ds,即y(t)−y(t0)=y(t)−y0.
(⟸) 假设y(t)=y0+∫t0tf(y(s),s)ds成立, 那么
y(t0)=y0+∫t0t0f(y(s),s)ds=y0,由此可知y(t0)=y0. 与此同时
y′(t)=dtdy0+dtd∫t0tf(y(s),s)ds=0+f(y(t),t).∎
有了这一条推论, 我们只需要证明
y(t0)=y0+∫t0tf(y(s),s)ds
存在唯一解. 我们将其分成两个证明: 即存在性的证明和唯一性的证明. 由于我们知道D×(a,b)为开子集, 因此存在α>0,δ>0, 使得
Dα,δ:={(y,t)∈Rn+1,∣∣y−y0∣∣≤α,∣t−t0∣<δ}⊆D×(a,b).
推论 6.2
令
ε:=min(δ,Mα,δα),其中Mα,δ=(y,t)∈Dα,δsup∣∣f(y,t)∣∣.那么ε≤δ,Dα,ε⊆Dα,δ. 令 J=(t0−ε,t0+ε), 那么对于所有满足y(t0)=y0 和 (y(t),t)∈Dα,ε,∀t∈J的函数 y(t), 变换
T(y)(t)≡y0+∫t0tf(y(s),s)ds被称作y(t)的Picard算子, 且
(1)(2)T(y0)(t0)=y0;(T(y)(t),t)∈Dα,ε,∀t∈J.
证明
对于第一条性质T(y)(t0)=y0, 由定义显然
T(y)(t0)=y0+∫t0t0f(y(s),s)dx=y0.随后我们只需要证明
∥T(y)(t)−y0∥≤α,∣t−t0∣≤δ.不难发现后面一条显然成立. 最后注意到
∥T(y)(t)−y0∥=y0+∫t0tf(y(s),s)ds−y0=∫t0tf(y(s),s)ds≤∫t0t∥f(y(s),s)∥ds≤Mα,δ⋅∫t0tds≤Mα,δ⋅ε≤α.∎
同学们可以在下图中直观地感受到我们所定义的这些抽象概念:
存在性定理的证明将依赖于Picard算子. 我们定义函数列{yk(t)}k=1∞, 使得
yk(t):=T(yk−1)(t)=y0+∫t0tf(yk−1(s),s)ds,∀k≥1.
推论 6.3
当t∈J:=(t0−ε,t0+ε)时, 函数列{yk(t)}k=1∞为柯西列 (Cauchy Sequence). 即对任意的η>0, 存在正整数N, 使得对任意的m,n≥N, 有∣∣ym(t)−yn(t)∣∣<η. 特别地,
y(t):=k→∞limyk(t)存在且为方程{y′(t)y(t0)=f(y(t),t)=y0的解.
证明
注意到
∥y1(t)−y0(t)∥不失一般性地讲, 假设t∈[0,t0+ε), 那么=y0+∫t0tf(y0(s),s)ds−y0=∫t0tf(y0(s),s)ds≤∫t0t∥f(y0(s),s)∥ds≤Mα,δ(t−t0).我们提出一条性质:
∥ym(t)−ym−1(t)∥≤Mα,δ⋅Lm−1m!(t−t0)m.我们将采用数学归纳法证明该性质. 假设其对所有的N≤m成立, 那么我们只需要证明其对N=m+1成立即可. 我们有
\begin{aligned}
\Vert y_{m+1}(t) - y_m(t) \Vert &= \Bigg\Vert y_0 + \int_{t_0}^t f(y_m(s),s) ds - y_0 - \int_{t_0}^t f(y_{m-1}(s),s) ds \Bigg\Vert \\
&\leq \int_{t_0}^t \Vert f(y_m(s),s) - f(y_{m-1}(s),s) \Vert ds \\
(<i>由于函数$f$为局部Lipschitz连续</i>)
& \leq \int_{t_0}^t L \Vert y_m(s) - y_{m-1}(s) \Vert ds \\
(<i>数学归纳法假设</i>) & \leq \int_{t_0}^t L \cdot M_{\alpha,\delta} \cdot L^{m-1} \frac{(s-t_0)^m}{m!} ds\\
& = \frac{L^m \cdot M_{\alpha,\delta}}{(m+1)!} (t-t_0)^{m+1},
\end{aligned}由此该性质得证. 那么∀l>1, 我们有
∥yl(t)−yl−1(t)∥≤Mα,δ⋅Lm−1l!(t−t0)l≤LMα,δl!(Lε)l.令p,m≥1, 记
∥ym+p(t)−ym+1(t)∥=∥ym+p(t)−ym+p−1(t)+ym+p−1(t)+⋯+ym+2(t)−ym+1(t)∥,那么
等式左边≤k=1∑p−1∥ym+k+1(t)−ym+k(t)∥≤k=1∑p−1LMα,δ⋅(m+k+1)!(Lε)m+k+1=LMα,δj=m+2∑p+mj!(Lε)j→m,p→∞0.因此{yk(t)}为柯西列. 由于Rn为完备空间, 即所有Rn中的柯西列收敛, 那么 limk→∞yk(t) 存在. 于是我们令 y(t)=limk→∞yk(t), 我们只需要证明 y(t)为{y′(t)y(t0)=f(y(t),t)=y0的解即可. 不妨令p→∞, 我们知道
t∈Jsup∥ym+p(t)−ym+1(t)∥→p→∞∥y(t)−ym+1(t)∥≤LMα,δj=m+2∑∞j!(Lε)j→m→∞0.由此我们知道yk(t)一致收敛于y(t), 由于yk(t)连续, 那么 y(t) 连续. 则
k→∞limyk(t)=k→∞limy0+∫t0tf(yk−1(s),s)ds,再结合一致收敛的性质, 我们有
y(t)=y0+∫t0tf(y(s),s)ds.因此存在性定理得证.
∎
我们最后给出唯一性定理的证明:
证明
假设y(t),z(t)均为y(t)为{y′(t)y(t0)=f(y(t),t)=y0的解. 不失一般性地讲, 假设 t∈(t0,t0+ε). 那么我们知道
∥y(t)−z(t)∥≤∫t0t∥f(y(s),s)ds−f(z(s),s)ds∥≤L∫t0t∥y(s)−z(s)∥ds.令
g(t)≡∫t0t∥y(s)−z(s)∥ds,不难发现g(t)≥0, g′(t)≤Lg(t). 我们将等式两边同时乘以一个系数 e−L(t−t0), 则
等式左边=dtd(e−L(t−t0)g(t))=e−L(t−t0)(g(t)−Lg(t))≤0.由于t↦e−L(t−t0)在区间 (t0,t0+ε)上单调递减, 因此
0≤e−L(t−t0)g′(t)≤g(t0)=0.结合g≥0, 我们便有g≡0, 即 g′(t)=∥y(t)−z(t)∥=0. 因此y(t)≡z(t). 由此唯一性定理得证.
∎
例题 6.2
设
⎩⎨⎧y′(t)=y+1y(0)=1.
解答 6.2
不难发现, 函数f(y(t),t)=y+1在R×(−∞,∞)上为局部Lipschitz连续, 因此存在唯一性定理使用于此. 随后令
ε=min{δ,Mα,δα},Dα,δ={(y(t),t):∥y−1∥≤α,∥t−0∥≤δ}=[1−α,1+α]×[−δ,δ].结合f的定义域, 我们知道α,δ∈R, 由此可知
M=(y,t)∈Dα,δsup∥f(y,t)∥=2+α,那么
ε=min{δ,2+αα}.若我们取δ=1,α=7, 则我们得到
J=(−97,97).因此根据存在唯一性定理, 存在定义在J上的函数y(t)使得y′(t)=y+1,y(0)=1.
不难发现, 在上面的例子中J与α,δ的取值有关. 我们由此定义
Jmax=supα,δJα,δ.
例题 6.3
设
y′(t)=y2+t1,y(1)=1,t>0根据存在唯一性定理, 求Jmax.
解答 6.3
不难发现f(y,t)=y2+t1在R×(0,∞)上为局部Lipschitz连续, 因此存在唯一性定理适用. 令
Dα,δ={(y,t)∣y−1∣≤α,∣t−1∣≤δ}=[1−α,1+α]×[1−δ,1+δ],其中1−δ>0. 则δ∈[0,1). 那么我们有
M=(y,t)∈Dα,δsup∣f(y,t)∣=(y,t)∈Dα,δsupy2+t1=(1+α)2+1−δ1.定义
ε=min{δ,Mα}=min{δ,(1+α)2+1−δ1α},令
f(α)=(1+α)2+1−δ1α δ为常数, 且 g(δ)=δ.不难发现
f′(α)=((1+α)2+1−δ1)2−2α2+1+1−δ1,因此f(α) 在区间(0,1+1−δ1)上单调递增, 则
f(α)max=f(1+1−δ1)=(1+1+1−δ1)2+1−δ11+1−δ1=1+1+1−δ1+21+1−δ1+1−δ11+1−δ1=21+1−δ1(1+1+1−δ1)1+1−δ1.那么我们便有
f(α)max=2(1+1+1−δ1)1.则min{f(α)max,δ}取得最小值当且仅当f(α)max=δ. 因此我们只需要求解
2(1+1+1−δ1)1=δ,由此不难解出
ε=δ=f(α)max=51.那么根据存在唯一性定理, y′(t)=y2+t1,y(0)=1在区间
J=(54,56)
上存在唯一解.