定义(投影)若a与β是n维内积空间中的 向量,则B到a的标量投影( scalar projection)为 则B到a的向量投影 vector projection)n为 C a=pro a C a, a) B-n⊥a
定义(投影) 若 与 是 n 维内积空间中的 向量,则 到 的标量投影(scalar projection)为 (,) 则 到 的向量投影(vector projection) η为 = = = proj ( , ) ( , ) ( , ) ➢ - η ⊥
例:令矩阵20 400 试求:A的列空间的一组标准正交基; 解:显然A的3个列向量线性无关,它们构成R4 的3维子空间的一组基,可以使用施密特正交化过程 >正交化、标准化同时进行,令n1=1=5, 224 q1 F12=(q1202) q 2 91> 84168 2-2q1 55
例:令矩阵 试求:A 的列空间的一组标准正交基; − − − = 4 0 0 2 4 2 2 0 1 1 2 1 A 解: 显然 A 的3个列向量线性无关,它们构成 R 4 的3 维子空间的一组基,可以使用施密特正交化过程 ➢ 正交化、标准化同时进行,令 5, r11 = α1 = T r = = , 5 4 , 5 2 , 5 2 , 5 1 11 1 1 α q ➢ 令 ( , ) 2, r12 = q1 α2 = − 2 , 12 q1 = − q1 r , , 5 8 , 5 16 , 5 4 , 5 8 12 T r α2 − q1 = − −
4 q1 五i1 5”3”35 A 84 168 2-r2q1 40 55 22 iaq 55 令 i3=(q1 23 al=q 8442 T. 0L 2=q112+q2/22 0,-B 4q2 5555)a3=q13+q223+q33 73=|03-13q1-F2392 A 1,夏2,夏L i 12 3-hi3q1-n23q2 =1,q2,q 72212 q3 3 733 5555 >向量组q1,q2,q3就是A的列空间的一组标准正交基
, , 5 8 , 5 16 , 5 4 , 5 8 12 T r α2 − q1 = − − 4, r2 2 = α2 − r12 q1 = T r r = − − − = 5 2 , 5 4 , 5 1 , 5 2 2 2 12 2 α2 q1 q ➢ 令 ( , ) 1, r13 = q1 α3 = − − − = 4 0 0 2 4 2 2 0 1 1 2 1 A T r = = , 5 4 , 5 2 , 5 2 , 5 1 11 1 1 α q ( , ) 1, r2 3 = q2 α3 = − , 5 2 , 5 4 , 5 4 , 5 8 3 13 2 3 2 T r r α − q1 − q = − − 2, r3 3 = α3 − r13 q1 − r2 3 q2 = T r r r = − − − − = 5 1 , 5 2 , 5 2 , 5 4 3 3 3 13 2 3 2 3 α q q q 1 ➢ 向量组 q1,q2 ,q3 就是 A 的列空间的一组标准正交基. 11 r α1 = q1 12 2 2 2 α q r q r 2 = 1 + 3 13 2 2 3 3 3 3 α q r q r q r = 1 + + = = 3 3 2 2 2 3 11 1 2 13 2 3 1 2 3 , , , , r r r r r r A q q q α α α 1
定理(QR分解若A是一秩为n的mxn阶矩阵,则A可以 分解为乘积QR,其中Q为列正交的mxn阶矩阵, R为对角线元素均为正的nXn阶上三角阵。 例中的QR分解为 24 1-2 「5-21 24 400 54-5
定理(QR分解) 若 A 是一秩为 n 的 m×n 阶矩阵,则A 可以 分解为乘积QR, 其中 Q 为列正交的m×n 阶矩阵, R 为对角线元素均为正的n×n 阶上三角阵。 ➢ 例中的 QR 分解为 − − − − − − = − − − 2 4 1 5 2 1 5 1 5 2 5 4 5 2 5 4 5 2 5 2 5 1 5 2 5 4 5 2 5 1 4 0 0 2 4 2 2 0 1 1 2 1
超定方程组的最小二乘解给定一个mxn阶方程组AX=b, 其中m>n,这类方程组通常是不相容的。 只能期望找到一个近似解X,使得AX尽可能接近b 二者的残余误差 (residual最小r(X)=b-AX >即向量b和向量AX最接近,距离最小 Ir(X)=b-Ar=min 使得这个距离最小化的X”称为方程组的最小二乘解 令p=AX,p就是A的列空间中最接近b的向量 >如何寻找X?要用到子空间的直和、正交等概念 >结论:AX=b的最小二乘解是X=R1QTb
超定方程组的最小二乘解 给定一个 m×n 阶方程组AX=b, 其中 m> n,这类方程组通常是不相容的。 ➢ 只能期望找到一个近似解 X’,使得AX’ 尽可能接近b ➢ 二者的残余误差 (residual)最小 r(X') = b − AX' ➢ 即向量 b 和向量AX’ 最接近,距离最小 r(X') = b − AX' = min ➢ 使得这个距离最小化的X’ 称为方程组的最小二乘解. ➢ 令 p= AX’ , p 就是 A 的列空间中最接近b 的向量. ➢ 如何寻找X’?要用到子空间的直和、正交等概念 ➢ 结论:AX=b 的最小二乘解是X’=R-1 QT b