ATA的可逆性(I)上海饰烧大学ShanghaiNormal Universit定理143的证明.我们证明：column-rank(ATA)=n，即等价的ATAx=0只有0一个解。事实上，我们有XTATAX = 0ATAX=0→(Ax)TAx = 0介Ax·Ax= 01IIAx = 0Ax= 0=0(这是因为rank(A)=n)1口316
ATA 的可逆性 (II) 定理143的证明. 我们证明:column−rank(ATA) = n，即等价的： A TAx = 0 只有 0 一个解。 事实上，我们有： A TAx = 0 =⇒ x TA TAx = 0 ⇐⇒ (Ax) TAx = 0 ⇐⇒ Ax · Ax = 0 ⇐⇒ kAxk = 0 ⇐⇒ Ax = 0 ⇐⇒ x = 0 (这是因为 rank(A) = n) 316
投影计算总结上海师烧大学圳Shanghai Normal University1.我们的目标是计算b到下列空间：V=span((ai,...,an))的投影p，其中a1....,an是线性无关的，peV.2.我们令pEV是满足其误差e=b-p与V垂直的向量。我们证明了，对于任意的VEV:Ib-vl=mb-ulv=p3.我们得到了相应的投影矩阵P=A(ATA)-1AI，即P=AX=A(ATA)-1ATb并且我们证明了当 rank(A)=n时(ATA)-1是存在的，这也说明了p的唯一性。317
投影计算总结 1. 我们的目标是计算 b 到下列空间： V = span({a1, . . . , an}) 的投影 p，其中 a1, . . . , an 是线性无关的，p ∈ V. 2. 我们令 p ∈ V 是满足其误差 e = b − p 与 V 垂直的向量。我们证明了，对于任意的 v ∈ V: kb − vk = min u∈V kb − uk ⇐⇒ v = p 3. 我们得到了相应的投影矩阵 P = A(ATA) −1AT，即： p = Ax^ = A(A TA) −1A Tb 并且我们证明了当 rank(A) = n 时 (ATA) −1 是存在的，这也说明了 p 的唯一性。 317
上海饰烧大筝回到引理140Shanghai Normal Universit引理140.令V是Rn的一个子空间，则对于任一xERn，我们都存在唯一的vEV和v+EVI使得：X=V+vl换句话说，Rn=W+yl=(u+vlueVandveyl)证明.令a1.....ak表示V的一组基，并且A=ai...ak则对于任意的×ER"，令u=A(ATA)-1ATx，则我们有：x=u+(x-u), uev,x-uevl口318
回到引理140 引理 140. 令 V 是 R n 的一个子空间，则对于任一 x ∈ R n，我们都存在唯一的 v ∈ V 和 v ⊥ ∈ V ⊥ 使得： x = v + v ⊥ 换句话说， R n = V + V ⊥ = {u + v | u ∈ V and v ∈ V ⊥} 证明. 令 a1, · · · , ak 表示 V 的一组基，并且： A = h a1 · · · ak i 则对于任意的 x ∈ R n，令 u = A(ATA) −1ATx，则我们有： x = u + (x − u), u ∈ V, x − u ∈ V ⊥ 318
上海师苑大学矩阵A的空间理解(III)Shanghai Normal Universitmxn的矩阵A的个空间A的列空间A的行空间维数=r维数=rAx, =bPAx=b= Xr+X.900900Ax.=0XnA的零空间AT的零空间维数=n一r维数=m-rR的子空间的子空间319
矩阵 A 的空间理解 (III) m × n 的矩阵 A 的四个空间 A 的行空间 A 的列空间 A 的零空间 AT 的零空间 R n 的子空间 R m 的子空间 90◦ 90◦ 维数 = r 维数 = n − r 维数 = m − r 维数 = r xr xn b x = xr + xn Axr = b Ax = b Axn = 0 319
阶段总结上海师玩大学Shanghai Normal Universit：投影到一条直线aTbaatPp:a,aTaaa·投影到一个子空间P=AR =A(AA)-1ATb, P=A(AA)-1AT320
阶段总结 • 投影到一条直线: p = a Tb a Ta a, P = aaT a Ta • 投影到一个子空间: p = Ax^ = A(A TA) −1A Tb, P = A(A TA) −1A T 320