离散数据的线性拟合 已知数据表 X X1 x2 Xm fx) y1y'2 Vm 求拟合函数：p(x)=M+bx a+bx=y a+bx2=y2 1 y 1 …: … 》 GX-F a+bxm=ym 1 Xm ym」 超定方程组 6
6 已知数据表 x x1 x2 ······ xm f(x) y1 y2 ······ ym 离散数据的线性拟合 求拟合函数: (x) = a + b x a + b x1 = y1 a + b x2 = y2 ······· a + b xm = ym m m y y y b a x x x 2 1 2 1 1 1 1 GX=F 超定方程组
残差：r=GX-F 最小二乘问题 min GX-F2 X∈R2 GX-F=GX-F,GX-F) (GX,GX)-2(GX,F)+F,F) G7GX)-2,GTF)+(F,F) )=(X,GTGX)-2(X,GTF) 求解极值问题： min f(X)=min[(X,G'GX)-2(X,GF)] X∈R2 X∈R2 7
7 2 2 min ||GX F || X R 最小二乘问题 残差: r = GX – F = (GX–F , GX–F ) =(GX, GX) – 2(GX, F )+(F, F) =(X, GTGX) – 2(X, GTF )+(F, F) f(X) = (X, GTGX) – 2(X, GTF ) 求解极值问题: min ( ) min[( , ) 2( , )] 2 2 f X X G GX X G F T T X R X R 2 2 ||GX F ||