第二章 基本概念 基本理论
第 二 章 基本概念 和 基本理论
2.0、预备知识 1、向量和子空向投影定理 (1)n维欧氏空间:R 点(向量):xeB,x=(x,x2,…,x) 分量x;∈R(实数集) 方向(自由向量):d∈R,d≠0 d=(l1,d2,…,)表示从0指向d的方向 实用中,常用x+Md表示从x点出发沿d方向 动Ad长度得到的点 d x+(12d
2.0、预备知识 1、向量和子空间投影定理 (1) n维欧氏空间：R n 点（向量）：x R n , x = (x1 ,x2 ,…,xn) T 分量 xi R (实数集) 方向（自由向量）：d R n , d 0 d =(d1 ,d2 ,…,dn) T 表示从0指向d 的方向 实用中，常用 x + d 表示从x 点出发沿d 方向移 动d 长度得到的点 d 0 x x+(1/2)d
20、预备知识(续) 1、向量和子空间投影定理 (2)向量运算:x,y∈R x,y的内积 1=2x出=x+x22+…+xny x,y的距离:xyl=(xy)(xy)2) x的长度 Lx=lxx (1/2) 三角不等式:x+y+yl 点列的收敛:设点列{x6)}cR,x∈R 点列{x6)}收敛到x,记 x=x台mx1=0=x
2.0、预备知识（续） 1、向量和子空间投影定理 (2) 向量运算：x , y R n n x , y 的内积：x Ty = xiyi = x1y1+ x2y2+ …+ xnyn i =1 x , y 的距离： ‖x-y ‖= [(x-y) T(x-y)](1/2) x 的长度： ‖x‖= [ x Tx ] (1/2) 三角不等式： ‖x + y ‖≤‖x‖＋‖y‖ 点列的收敛：设点列｛x (k)｝ R n , x R n 点列｛x (k)｝收敛到 x ，记 lim x (k) = x lim‖x (k) - x‖ = 0 lim xi (k) = xi ,i k→ k→ k→ x+y y x
20、预备知识(续) 1、向量和子空间投影定理 (3)子空间:设d,d(),…,.d(m)∈,d()≠0 记(d(0,d),:1m)={x=2ad0|a∈R 为由向量d),d2),…,dm生成的子空间,简记为L。 ●正交子空间:设L为的子空间,其正交子空间为 L={x∈P|xy=0,抄yeL} 子空间投影定理:设L为R的子空间。那么 唯一x∈L,y∈L,使z=x+y,且x为问题 min z-ull t.ul∈L 的唯一解,最优值为y 特别,L=时,正交子空间L={0}(零空间)
2.0、预备知识（续） 1、向量和子空间投影定理 (3) 子空间：设 d (1) , d (2) , … , d (m) R n , d (k) 0 m 记 L( d (1) , d (2) , … , d (m) )={ x = j d (j) jR } j =1 为由向量d (1) , d (2) , … , d (m) 生成的子空间，简记为L。 ⚫ 正交子空间：设 L 为R n 的子空间，其正交子空间为 L ⊥ ＝{ x R n x Ty=0 , y L } ⚫ 子空间投影定理：设 L 为R n 的子空间。那么 x R n ， 唯一 x L , y L ⊥ , 使 z=x+y , 且 x 为问题 min ‖z - u‖ s.t. u L 的唯一解，最优值为‖y‖。 ⚫ 特别， L ＝R n 时，正交子空间 L ⊥ ＝{ 0 }（零空间）
20、预备知识(续) 规定:x,y∈R,xsy分x≤y,i类 似规定x≥y,x=y,x<y,x>y 一个有用的定理 设x∈,c∈R,D为的线性子空间, (1)若xy≤a,Vy∈R且y≥0, 则x≤0,a≥0. (2)若xy≤a,vy∈LgR, 则x∈L,a≥0.(特别,L=时x=0) 定理的其他形式: “著若xy≤a,Vy∈m且y≤0,则x≥0,a≥0 “若xy≥a,Vy∈n且y≥0,则x≥0,a≤0” 若xy≥a,Vy∈R且y≤0,则x≤0,a≤0 若xy≥a,Vy∈Lgr2,则x∈l,a≤0
2.0、预备知识（续） ⚫ 规定：x , y R n ，x ≤ y xi ≤ yi ，i 类 似规定 x ≥ y，x = y，x < y , x > y . ⚫ 一个有用的定理 设 xR n ，R，L为R n 的线性子空间， (1)若 x Ty ≤ , yR n 且 y ≥ 0， 则 x ≤ 0， ≥ 0 . (2)若 x Ty ≤ , y L R n ， 则 x L ⊥ ， ≥ 0 .(特别, L＝R n 时,x =0) ⚫ 定理的其他形式： “若 x Ty ≤ , yR n 且 y ≤ 0，则 x ≥ 0， ≥ 0 .” “若 x Ty ≥ , yR n 且 y ≥ 0，则 x ≥ 0， ≤ 0 .” “若 x Ty ≥ , yR n 且 y ≤ 0，则 x ≤ 0， ≤ 0 .” “若 x Ty ≥ , y L R n ， 则 x L ⊥ ，≤ 0