赋范线性空间上微分学——距离与范数 复旦力学谢锡麟 2016年4月21日 1知识要素 11范数 定义1.1(范数.在向量空间y上,对Ⅴx∈y其范数定义为 |y:y3x→|ly∈R, 满足 1.非负性:|xy≥0,Vx∈y;非退化性:当x≠0∈y时,|xly>0; 2.正齐次性:ary= gallary,x∈y,Va∈R 3.三角不等式:|x+yy≤|ry+lyly,x,y∈y 定义1.2(赋范线性空间)·定义了范数的线性空间,称为赋范线性空间.基于范数可自然定 义赋范线性空间上的距离:d(x,y)会|-yx 1.2映照极限 定义1.3(映照极限).设有映照∫(x)定义为 f(x):XDx3x→f(x)∈Y, 此处X和Y均为赋范线性空间,DCX为f(x)的定义域.当x0为D的聚点,即入>0, 有Bx(x0)∩Dx≠g.设有局部行为,记为 彐Iim,f(x)=y0∈Y x→x0∈X 具体叙述如下 1. cauchy叙述 ve>0,36>0,成立f(x)∈B2(y0),r∈B(xr0)∩D2 2. Heine叙述: V{xn} nEN C D2\{xo},xn→xo∈X,有f(xn)→v∈Y
赋范线性空间上微分学 赋范线性空间上微分学——距离与范数 复旦力学 谢锡麟 2016 年 4 月 21 日 1 知识要素 1.1 范数 定义 1.1 (范数). 在向量空间 V 上, 对 ∀ x ∈ V 其范数定义为 | · |V : V ∋ x 7→ |x|V ∈ R, 满足: 1. 非负性: |x|V > 0, ∀ x ∈ V ; 非退化性: 当 x ̸= 0 ∈ V 时, |x|V > 0; 2. 正齐次性: |αx|V = |α||x|V , ∀ x ∈ V , ∀ α ∈ R; 3. 三角不等式: |x + y|V 6 |x|V + |y|V , ∀ x, y ∈ V . 定义 1.2 (赋范线性空间). 定义了范数的线性空间, 称为赋范线性空间. 基于范数可自然定 义赋范线性空间上的距离: d(x, y) , |x − y|X. 1.2 映照极限 定义 1.3 (映照极限). 设有映照 f(x) 定义为 f(x) : X ⊃ Dx ∋ x 7→ f(x) ∈ Y, 此处 X 和 Y 均为赋范线性空间, Dx ⊂ X 为 f(x) 的定义域. 当 x0 为 Dx 的聚点, 即 ∀ λ > 0, 有 ◦ Bλ(x0) ∩ Dx ̸= ∅. 设有局部行为, 记为 ∃ lim x→x0∈X f(x) = y0 ∈ Y. 具体叙述如下. 1. Cauchy 叙述: ∀ ε > 0, ∃ δε > 0, 成立f(x) ∈ Bε(y0), ∀ x ∈ ◦ Bδε (x0) ∩ Dx; 2. Heine 叙述: ∀ {xn}n∈N ⊂ Dx\{x0}, xn → x0 ∈ X, 有f(xn) → y0 ∈ Y. 1
赋范线性空间上微分学——一距离与范数 谢锡麟 定理1.1.映照极限的 Cauchy叙述与 Heine叙述是等价的. 证明首先,由 Cauchy叙述得出 Heine叙述 考虑H{xn}cX,mn→xo∈X需证f(xn)→∈Y,则按 Cauchy叙述,有 6>0,成立f(x)∈B2(0),Vx∈Bs(xo)∩D ∈X,即 N∈N,成立n∈Bb(xo)nDx,Vn>N 故有∫(xn)∈B2(o),Vn>Nb2,亦即f(xn)→y∈Y 然后,由 Heine叙述得出 Cauchy叙述.利用反证法,假设 Cauchy叙述不成立,即有 彐e*>0,V6>0.,彐x∈B(xo)nDx满足f(x5)gBe.(0), 取6n=,则彐xn∈B6n(xo)∩D满足f(xn)B2、().由于有D2{xo3xn→x0∈X,且 {f(xn)}neN以v0为极限( Heine叙述),矛盾. 定义1.4(映照的连续性).当∫(x)∈Y在点xo∈X有定义,且有 lim,f(x)=f(xo)∈Y, 则称f(x)∈Y在点x0∈X连续 显然,连续性可作为一种特殊的映照极限,且对应有如下的理解: 连续性的 Cauchy叙述 ve>0,彐6>0,成立f(x)∈B2(f(xo),r∈Bn(xo)∩D; 2.连续性的 Heine叙述 V{xn} neN CD2,xn→x0∈X,有f(xn)→f(xo)∈Y. 定理1.2(复合映照极限定理).如有 ∈ 且满足“非接触性条件0:彐入>0,有 A(B(ro)n De)C De\yol 则有
赋范线性空间上微分学 赋范线性空间上微分学 —— 距离与范数 谢锡麟 定理 1.1. 映照极限的 Cauchy 叙述与 Heine 叙述是等价的. 证明 首先, 由 Cauchy 叙述得出 Heine 叙述. 考虑 ∀ {xn} ⊂ X, xn → x0 ∈ X 需证 f(xn) → y0 ∈ Y , 则按 Cauchy 叙述, 有 ∀ ε > 0, ∃ δε > 0, 成立f(x) ∈ Bε(y0), ∀ x ∈ ◦ Bδε (x0) ∩ Dx. 由 xn → x0 ∈ X, 即 ∃ Nδε ∈ N, 成立xn ∈ ◦ Bδε (x0) ∩ Dx, ∀ n > Nδε , 故有 f(xn) ∈ Bε(y0), ∀ n > Nδε , 亦即 f(xn) → y0 ∈ Y . 然后, 由 Heine 叙述得出 Cauchy 叙述. 利用反证法, 假设 Cauchy 叙述不成立, 即有 ∃ ε∗ > 0, ∀ δ > 0, ∃ xδ ∈ ◦ Bδ(x0) ∩ Dx 满足f(xδ) /∈ Bε∗ (y0), 取 δn = 1 n , 则 ∃ xn ∈ ◦ Bδn (x0) ∩ Dx 满足f(xn) /∈ Bε∗ (y0). 由于有 Dx\{x0} ∋ xn → x0 ∈ X, 且 {f(xn)}n∈N 以 y0 为极限 (Heine 叙述), 矛盾. 定义 1.4 (映照的连续性). 当 f(x) ∈ Y 在点 x0 ∈ X 有定义, 且有 ∃ lim x→x0∈X f(x) = f(x0) ∈ Y, 则称 f(x) ∈ Y 在点 x0 ∈ X 连续. 显然, 连续性可作为一种特殊的映照极限, 且对应有如下的理解: 1. 连续性的 Cauchy 叙述: ∀ ε > 0, ∃ δε > 0, 成立f(x) ∈ Bε(f(x0)), ∀ x ∈ Bδε (x0) ∩ Dx; 2. 连续性的 Heine 叙述: ∀ {xn}n∈N ⊂ Dx, xn → x0 ∈ X, 有f(xn) → f(x0) ∈ Y. 定理 1.2 (复合映照极限定理). 如有 ∃ lim x→x0∈X θ(x) = y0 ∈ Y, ∃ lim y→y0∈Y Θ(y) = z0 ∈ Z, 且满足 “非接触性条件” ➀: ∃ λ > 0, 有 θ( ◦ Bλ(x0) ∩ Dθ) ⊂ DΘ\{y0}, 则有 ➀ “非接触性” 指, 当 x ̸= x0 ∈ X, 有 θ(x) ̸= y0 ∈ Y . 2
赋范线性空间上微分 距离与范数 谢锡麟 1.存在局部复合,即有 o(x)≡O((x); (x) lim,6(y)∈Z. 证明(1)按非接触性条件θ(Bx(xo)∩De)cDe\{},显然成立 (2)利用 Heine叙述,考虑Ⅴ{xn}cBx(xo)∩D,rn→xo∈X 由彐lim,O(x)=∈Y的 Heine叙述,以及非接触性条件,有 D 又由彐 6(y)=30∈Z的 Heine叙述,有 y→y0∈Y 6((xn))=6(x 综上,有彐lim,Oo6(x)=x0∈Z 需指出,按连续性的 Heine叙述,如有 彐lim,6(y)=(y0)∈Z, 则上述定理中“非接触性条件”可改为“可接触性条件 >0,有(Bx(x0)∩De) 2应用事例 命题2.1(矩阵的平方和范数).一般矩阵范数可定义如下 mxn3A→|4|gmxn√AaAa∈ 且此矩阵函数范数满足矩阵范数额外要求的“相容性条件 ABErE≤| ARrxsBrs 证明由定义 △ 易见其满足非负性、非退化性、正齐次性.对于三角不等式,考虑 A+BRmxn =(Aia+ Bia)(Aio+ Bia)=Akmxn +Bi ≤41m+1B1m+2∑∑、∑∑B 1 mxn+ B12mxn +2 Alrmxn Blgmxn=(lAlgmxm +IBlgmxn
赋范线性空间上微分学 赋范线性空间上微分学 —— 距离与范数 谢锡麟 1. 存在局部复合, 即有 Θ ◦ θ(x) : ◦ Bλ(x0) ∩ Dθ ∋ x 7→ Θ ◦ θ(x) ≡ Θ(θ(x)); 2. ∃ lim x→x0∈X Θ ◦ θ(x) = z0 = lim y→y0∈Y Θ(y) ∈ Z. 证明 (1) 按非接触性条件 θ( ◦ Bλ(x0) ∩ Dθ) ⊂ DΘ\{y0}, 显然成立. (2) 利用 Heine 叙述, 考虑 ∀ {xn} ⊂ ◦ Bλ(x0) ∩ Dθ, xn → x0 ∈ X. 由 ∃ lim x→x0∈X θ(x) = y0 ∈ Y 的 Heine 叙述, 以及非接触性条件, 有 DΘ\{y0} ∋ θ(xn) → y0 ∈ Y. 又由 ∃ lim y→y0∈Y Θ(y) = z0 ∈ Z 的 Heine 叙述, 有 Θ(θ(xn)) = Θ ◦ θ(xn) → z0 ∈ Z. 综上, 有 ∃ lim x→x0∈X Θ ◦ θ(x) = z0 ∈ Z. 需指出, 按连续性的 Heine 叙述, 如有 ∃ lim y→y0∈Y Θ(y) = Θ(y0) ∈ Z, 则上述定理中 “非接触性条件” 可改为 “可接触性条件” ∃ λ > 0, 有 θ( ◦ Bλ(x0) ∩ Dθ) ⊂ DΘ. 2 应用事例 命题 2.1 (矩阵的平方和范数). 一般矩阵范数可定义如下: | · |Rm×n : R m×n ∋ A 7→ |A|Rm×n , √ AiαAiα ∈ R, 且此矩阵函数范数满足矩阵范数额外要求的 “相容性条件”: |AB|Rr×t 6 |A|Rr×s |B|Rs×t , ∀ A ∈ R r×s , B ∈ R s×t . 证明 由定义 |A|Rm×n , √ AiαAiα, 易见其满足非负性、非退化性、正齐次性. 对于三角不等式, 考虑 |A + B| 2 Rm×n = (Aiα + Biα) (Aiα + Biα) = |A| 2 Rm×n + |B| 2 Rm×n + 2AiαBiα 6 |A| 2 Rm×n + |B| 2 Rm×n + 2 vuut∑m i=1 ∑n α=1 A2 iα vuut∑m i=1 ∑n α=1 B2 iα = |A| 2 Rm×n + |B| 2 Rm×n + 2|A|Rm×n |B|Rm×n = (|A|Rm×n + |B|Rm×n ) 2 , 3
赋范线性空间上微分 距离与范数 谢锡麟 即有|A+ bRan≤| ARmon+| BeRmAn 就相容性条件,可有 kx:=∑∑(AB)=∑ i=1a=1 i=1a=1 (a) i=1 k=1 命题22(矩阵的谱范数).一般矩阵范数可定义如下: 1.Ispec:RmXm e A+Alspec max vAil det(ATA-A;Im)=OER 且此矩阵函数范数满足“相容性条件 Aspec≤| spec VA∈Rs,B∈R 证明对A∈Rxm,则AA必然为对称阵(如果A非零),故其特征值均为非负的实数 有估计式 1An=x(A1A)x≤max{ldet(A1A-MD)=0}x最m,x∈Rm 以下验证作为范数的条件: 非负性及非退化性.由上式,显然|A|spe≥0,VA∈Rn×m 当| As=0,亦即A=0(=1,…,m),按线性代数中对称矩阵的正交相似对角化 有彐Q∈Orth,满足 Q(AA)Q 0∈R 则有AA=0∈Rmxm.故 i(A1A)i1=|Ail最n=0 亦即A∈Rnxm的第i列为零向量,也就是A=0∈Rn×m 反之,如果A=0∈Rn×m,显然有| Als=0. 2.正齐次性.这是显然的 3.三角不等式.由上述估计式,可见有 Aspec= sup AlRn m≠0mlgm 因为|(A+B)xlgn≤|Acln+| BaIRn,所以 /(A+ B)aans, sup*o laRm l-Igmt0 lazlrm' Va E R 故有|A+ bspec≤|Alsp+| Aspec.综述所述,|Alpe为范数
赋范线性空间上微分学 赋范线性空间上微分学 —— 距离与范数 谢锡麟 即有 |A + B|Rm×n 6 |A|Rm×n + |B|Rm×n . 就相容性条件, 可有 |AB| 2 Rr×t = ∑r i=1 ∑ t α=1 (AB) 2 iα = ∑r i=1 ∑ t α=1 (∑s k=1 AikBkα)2 6 ∑r i=1 ∑ t α=1 (∑s k=1 A 2 ik) (∑s k=1 B 2 kα) = |A| 2 Rr×s |B| 2 Rs×t . 命题 2.2 (矩阵的谱范数). 一般矩阵范数可定义如下: | · |spec : R n×m ∋ A 7→ |A|spec , max 16i6m { √ λi | det(ATA − λiIm) = 0} ∈ R, 且此矩阵函数范数满足 “相容性条件”: |AB|spec 6 |A|spec|B|spec, ∀ A ∈ R r×s , B ∈ R s×t . 证明 对 ∀ A ∈ R n×m, 则 ATA 必然为对称阵 (如果 A 非零), 故其特征值均为非负的实数, 有估计式 |Ax| 2 Rn = x T(ATA)x 6 max 16i6m {λi | det(ATA − λI) = 0}|x| 2 Rm, ∀ x ∈ R m. 以下验证作为范数的条件: 1. 非负性及非退化性. 由上式, 显然 |A|spec > 0, ∀ A ∈ R n×m. 当 |A|spec = 0, 亦即 λi = 0 (i = 1, · · · , m), 按线性代数中对称矩阵的正交相似对角化, 可 有 ∃ Q ∈ Orth, 满足 QT(ATA)Q = λ1 . . . λm = 0 ∈ R m×m, 则有 ATA = 0 ∈ R m×m. 故 i T i (ATA)ii = |Aii | 2 Rn = 0, i = 1, · · · , m, 亦即 A ∈ R n×m 的第 i 列为零向量, 也就是 A = 0 ∈ R n×m. 反之, 如果 A = 0 ∈ R n×m, 显然有 |A|spec = 0. 2. 正齐次性. 这是显然的. 3. 三角不等式. 由上述估计式, 可见有 |A|spec = sup |x|Rm̸=0 |Ax|Rn |x|Rm . 因为 |(A + B)x|Rn 6 |Ax|Rn + |Bx|Rn , 所以 |(A + B)x|Rn |x|Rm 6 sup |x|Rm̸=0 |Ax|Rn |x|Rm + sup |x|Rm̸=0 |Bx|Rn |x|Rm , ∀ x ∈ R m, 故有 |A + B|spec 6 |A|spec + |B|spec. 综述所述, |A|spec 为范数. 4
赋范线性空间上微分 距离与范数 谢锡麟 关于相容性,由于| Aspec=sup 1Ag>2Ag,因此 arm I(AB)aIRr=lA(B c)lR- Specl Bales< lAlspec BlspeclacIRe 故有 Ablspec Alspecl Blspec 命题2.3(线性映照的范数).如果线性映照x(X;Y)的两个底空间X和Y的范数都已经 定义,那么线性映照(X;Y)的范数可以定义如下 ·x(x:):x(x;Y)3a→lax(x:y)sp l&(a)ly x0|2/x∈R 且此范数满足相容性条件: lalx(x;z)≤|-x(y;z)(x:),Va∈x(Y;2),第∈(X:;Y 证明检验成为范数的条件 非负性及非退化性.显然有 alx(x:)≥0,Vx∈(X;Y) 如有|a(|x(x:)=0,则对x∈X,有|a(x)y=0,即a=0∈2(X;Y).反之,如有 =0∈x(X;Y),则显然有 0. 2.正齐次性 JAdls(x: r)=sul (d )(a)lY=(A sup Ix x|x≠0 d(z)=(All de(x Y), AER 3.三角不等式 (x+)(x)l}=|f(x)+()y≤|a(x) <lals(x r)lalx + le(x r)lalx 由此可有|a+x(x:)≤同1lx(x:)+1(x:y 综述所述,有|1(x)为范数 至于相容性条件,考虑到 x)(x)z≤|1(y;z)|6(x)y≤. als(y;z)l(x:)rlx 即有 x团(x:;2)≤|a1x(y;z)|lx(x:Y 矩阵也可以看做是Rη空间到Rn空间的线性映照,因此矩阵A∈Rnxm的范数也可以定 义为 Az 1·1z(m:):Rm3A+4x(m:),8mR 并且有下述定理. 定理2.4.|4|(RmRn)=| Aspec
赋范线性空间上微分学 赋范线性空间上微分学 —— 距离与范数 谢锡麟 关于相容性, 由于 |A|spec = sup |x|Rm̸=0 |Ax|Rn |x|Rm > |Ax|Rn |x|Rm , 因此 |(AB)x|Rr = |A(Bx)|Rr 6 |A|spec|Bx|Rs 6 |A|spec|B|spec|x|Rt , 故有 |AB|spec 6 |A|spec|B|spec. 命题 2.3 (线性映照的范数). 如果线性映照 L (X; Y ) 的两个底空间 X 和 Y 的范数都已经 定义, 那么线性映照 L (X; Y ) 的范数可以定义如下: | · |L (X;Y ) : L (X; Y ) ∋ A 7→ |A |L (X;Y ) , sup |x|X̸=0 |A (x)|Y |x|X ∈ R, 且此范数满足相容性条件: |A B|L (X;Z) 6 |A |L (Y ;Z) |B|L (X;Y ) , ∀ A ∈ L (Y ;Z), B ∈ L (X; Y ). 证明 检验成为范数的条件. 1. 非负性及非退化性. 显然有 |A |L (X;Y ) > 0, ∀ A ∈ L (X; Y ). 如有 |A |L (X;Y ) = 0, 则对 ∀ x ∈ X, 有 |A (x)|Y = 0, 即 A = 0 ∈ L (X; Y ). 反之, 如有 A = 0 ∈ L (X; Y ), 则显然有 |A |L (X;Y ) = 0. 2. 正齐次性. |λA |L (X;Y ) , sup |x|X̸=0 |(λA )(x)|Y |x|X = |λ| sup |x|X̸=0 |A (x)|Y |x|X = |λ||A |L (X;Y ) , ∀ λ ∈ R. 3. 三角不等式. |(A + B)(x)|Y = |A (x) + B(x)|Y 6 |A (x)|Y + |B(x)|Y 6 |A |L (X;Y ) |x|X + |B|L (X;Y ) |x|X. 由此可有 |A + B|L (X;Y ) 6 |A |L (X;Y ) + |B|L (X;Y ) . 综述所述, 有 |A |L (X;Y ) 为范数. 至于相容性条件, 考虑到 |(A B)(x)|Z 6 |A |L (Y ;Z) |B(x)|Y 6 |A |L (Y ;Z) |B|L (X;Y ) |x|X, 即有 |A B|L (X;Z) 6 |A |L (Y ;Z) |B|L (X;Y ) . 矩阵也可以看做是 R m 空间到 R n 空间的线性映照, 因此矩阵 A ∈ R n×m 的范数也可以定 义为 | · |L (Rm;Rn) : R n×m ∋ A 7→ |A|L (Rm;Rn) , sup |x|Rm̸=0 |Ax|Rn |x|Rm ∈ R, 并且有下述定理. 定理 2.4. |A|L (Rm;Rn) = |A|spec. 5