p的计算-误差向量e(0)上海饰烧大学Shanghai Normal Universit令e=b-p=b-Ax我们首先证明：elv证明.对于任意的VEV，我们有：V= Ay从而：Ib - vil? = ib - Ay12= [b - AX + AX- Ayll?= IlelI2 + IA(X -y)I2 + 2e· A(-y)= el2 + A(-y)2≥llell2311口
p 的计算-误差向量 e(I) 令 e = b − p = b − Ax^ 我们首先证明： e⊥V 证明. 对于任意的 v ∈ V，我们有： v = Ay 从而： kb − vk 2 = kb − Ayk 2 = kb − Ax^ + Ax^ − Ayk 2 = kek 2 + kA(x^ − y)k 2 + 2e · A(x^ − y) = kek 2 + kA(x^ − y)k 2 ⩾ kek 2 311
p的计算-误差向量e(I)上海师玩大学Shanghai Normal University这也意味着：ela,...,elan从而我们有：al(b - Ax) = 0(at(b-Ax)=0即：AT(b - AX) = 0312
p 的计算-误差向量 e(II) 这也意味着： e⊥a1, · · · , e⊥an 从而我们有： a T 1 (b − Ax^) = 0 . . . a T n(b − Ax^) = 0 即： A T (b − Ax^) = 0 312
p的计算-投影矩阵P上海师苑大学Shanghai Normal Universit我们可以看到：A(b-AX)=0 ATAX=ATb注意到A是一个m×n的矩阵并且其列向量是线性无关的，则ATA是n×n的矩阵，并且如果我们可以证明ATA是可逆的，则我们有：父=(ATA)-1ATb并且我们可以得到b到V(=span[ai,..,anJ)的投影为：P=AX=A(ATA)-1ATb对应的投影矩阵为：P= A(A'A)-1AT313
p 的计算-投影矩阵 P 我们可以看到： A T (b − Ax^) = 0 ⇐⇒ A TAx^ = A Tb 注意到 A 是一个 m × n 的矩阵: A = h a1 · · · an i 并且其列向量是线性无关的，则 ATA 是 n × n 的矩阵，并且如果我们可以证明 ATA 是可逆 的，则我们有： x^ = (A TA) −1A Tb 并且我们可以得到 b 到 V(= span{a1, · · · , an}) 的投影为： p = Ax^ = A(A TA) −1A Tb 对应的投影矩阵为： P = A(A TA) −1A T 313
一个例子上海饰烧大筝Shanghai Normal UniversitCL考虑R3，考虑矩阵A=的列空间和b我们来计算其投影和对应的投影矩120阵。3361.ATA:Al3502.解方程：ATAX=ATb0可得：父=（1,）=（5.-3）53. 其投影p=AX=误差为e=b投影矩阵Pp1-125314
一个例子 考虑 R 3，考虑矩阵 A = 1 0 1 1 1 2 的列空间和 b = 6 0 0 ，我们来计算其投影和对应的投影矩 阵。 1. ATA = " 3 3 3 5# , ATb = " 6 0 # 2. 解方程：ATAx^ = ATb: " 3 3 3 5# "x^1 x^2 # = " 6 0 # 可得：x^ = (x^1, x^2) = (5, −3) 3. 其投影 p = Ax^ = 5 2 −1 ，误差为 e = b − p = 1 −2 1 ，投影矩阵 P = 1 6 5 2 −1 2 2 2 −1 2 5 314
ATA的可逆性(I)上海饰烧大筝Shanghai Normal Universit现在我们来证明AIA的可逆性，注意到：A:并且其列向量是线性无关的，所以其是列满秩的。定理143.令 A是一个m ×n的矩阵，并且rank(A)=n，则AIA是可逆的。315
ATA 的可逆性 (I) 现在我们来证明 ATA 的可逆性，注意到： A = h a1 · · · an i 并且其列向量是线性无关的，所以其是列满秩的。 定理 143. 令 A 是一个 m × n 的矩阵，并且 rank(A) = n，则 ATA 是可逆的。 315