2 设法方程组G'Ga=G'y的解为 a"=(a,ai,,a,)e R+则函数s*(x)=ap(x)+ap(x)+...+a,p,(x)就是最小二乘解！证明设s(x)=a(x)+ap(x)+...+a,p,(x)12I( s(x)yos(x,)-yos(x))-yis(x)Ji= |Ga- yl,则 Q=(s(x,)-y,) =:.....i=0(s(xm)-ym)2( s(x...ym因此最小二乘问题等价为：求aeR"+，使得Q= IGa-yl = minPn(x))Po(x,)9(x)...又因为对VαR"+I,α=α'+cp.(x)P(x,)p(x,)...G=...·.p(xm)P.(xm)p.(xm))
T T 2 设法方程组 的解为 G Ga G y ( , , , )T n n a a a a R 1 0 1 则函数 * * * *( ) ( ) ( ) ( ) n n s x a x a x a x 0 0 1 1 就是最小二乘解！ 证明 ( ) ( ) ( ) ( ) n n 设 s x a x a x a x 0 0 1 1 则 ( ) ( ) ( ) ( ) 2 0 0 2 1 1 0 2 m i i i m m s x y s x y Q s x y s x y ( ) ( ) ( ) 2 0 0 1 1 m m 2 s x y s x y s x y Ga y 2 2 Q Ga y min 2 2 n a R 因此最小二乘问题等价为：求 ，使得 1 , n R 又因为对 1 c ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) n n m m n m x x x x x x G x x x 0 0 1 0 0 0 1 1 1 1 0 1
因此 Ga-yl =|G(a*+c)-yl; =Ga*-y +Gcl,=(Ga*-y+ Gc)' (Ga*-y+ Gc)= |Ga*-yll + 2c'GT (Ga*-y)+ |Gcll)=|Ga * -y, + 2c'G' (Ga * -y)+|Gcl=|Ga*-yll; + 2cT (GTGa *-GT y))+ Gcl,= |Ga *-yl + [Gcl ≥[Ga*-yl?法方程组的解a使得Q=(s(x,)-J,)达到最小!即：3最小二乘解的唯一性当矩阵G=（o,1,,,)列满秩时,G'G可逆,法方程GTGa=G'y有唯一解：a =(G'G)"G'y最小二乘问题有唯一解！
因此 Ga y G a c y Ga y Gc ( * ) * 2 2 2 2 2 2 * ( * ) T T Ga y c G Ga y Gc 2 2 2 2 2 * * T Ga y Gc Ga y Gc * ( * ) T T Ga y c G Ga y Gc 2 2 2 2 2 * * ) T T T Ga y c G Ga G y Gc 2 2 2 2 2 Ga y Gc Ga y * * 2 2 2 2 2 2 即： ( ) n i i i a Q s x y 2 0 法方程组的解 使得 达到最小！ 3 最小二乘解的唯一性 * , , , 0 1 1 T T T n T T G G G G Ga G y a G G G y 当矩阵 列满秩时, 可逆,法方程 有唯一解： 最小二乘问题有唯一解！