中国矿大學CHINAUNIVERSITYOFMININGANDTECHNOLOGY因此 Ga-yl; =G(a*+c)-y =Ga*-y+ Gcl=(Ga *-y+Gc)' (Ga*-y+ Gc)=Ga*-yll + 2c'G'(Ga *-y)+|Gcl,=[Ga*-yll, + 2c' (G'Ga*-GT) + |Gll=|Ga*-ll +|Gel ≥[Ga*-yl法方程组的解a使得Q=(s(x,)-y)达到最小!即:3最小二乘解的唯一性当P(x),P(x),",P,(x)线性无关时,则矩阵G=(。 ,)列满秩此时G'G可逆,法方程GTGa=Gy有唯一解:a=(GTG)"Gy最小二乘问题有唯一解!
CHINA UNIVERSITY OF MINING AND TECHNOLOGY 因此 Ga y G a c y Ga y Gc − = + − = −+ (* ) * 222 222 * (*) T T = − + −+ Ga y c G Ga y Gc 2 2 2 2 2 ( * * ) ( ) T = −+ −+ Ga y Gc Ga y Gc * *) ( ) TT T = −+ − + Ga y c G Ga G y Gc 2 2 2 2 2 = −+ ≥ − Ga y Gc Ga y * * 22 2 22 2 即: ( ) ( ) n i i i a Q sx y ∗ = = − ∑ 2 0 法方程组的解 使得 达到最小! 3 最小二乘解的唯一性 ( ) ( ) * ( ), ( ), , ( ) n n T T T TT xx x G G G G Ga G y a G G G y ϕ ϕ ϕ ϕϕ ϕ − = = = 0 1 1 当 线性无关时,则矩阵 列满秩 0 1 " " 此时 可逆,法方程 有唯一解: 最小二乘问题有唯一解!
中国矿亚大医CHINA UNIVERSITYOF MININGANDTECHNOLOGY3.最小二乘多项式拟合用多项式 S(x)= P,(x)作为(x,,y,)(i=0,1,.,m)的拟合函数,它的基函数为Po(x)=1, Pi(x)= x, .*-,Pr(x)=xh,., p,(x)= x"k+(Pp,)=(x)p,(x) =xx =xi=0i=0i=0(甲k,D) =Zp(x,)y, =Zxy,i=0i=0
CHINA UNIVERSITY OF MINING AND TECHNOLOGY ( ) ( ) ( , )( 0,1, , ) Sx P x x n ii = y i m = " ⒊ 最小二乘多项式拟合 ( ) 1 , ϕ0 x = ( ) , 1 ϕ x = x " , ( ) , " , k k ϕ x = x n n ϕ ( x ) = x 基函数之间的内积为 ( , ) ( ) ( ) 0 j i m i k j k i ϕ ϕ ∑ ϕ x ϕ x = = ∑= = m i j i k i x x 0 ∑= + = m i k j i x 0 0 ( ,) ( ) m k k ii i ϕ ϕ y x y = = ∑ G ∑= = m i i k i x y 0 用多项式 作为 的拟合函数,它的基函数为
中国矿亚大整CHINA UNIVERSITYOF MININGANDTECHNOLOGY则最小二乘多项式拟合的法方程组为2y之xim+1X;+++i=0i=0i=0ao2x.2mm.n+1ZZx?aXiy,x;i=0i=0i=0i=0:?·anWm=WmZ.2ntxxii=0i=0i=0i=09
CHINA UNIVERSITY OF MINING AND TECHNOLOGY 则最小二乘多项式拟合的法方程组 为 00 0 0 2 1 1 00 0 0 1 2 00 0 0 1 mm m n ii i ii i mm m m n i i i ii ii i i mm m m n nn n n i i i ii ii i i mx x y a xx x a y x a xx x y x == = + == = = + == = = ⎡ ⎤⎡ ⎤ + ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎡ ⎤ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ = ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎣ ⎦ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎣ ⎦⎣ ⎦ ∑∑ ∑ ∑∑ ∑ ∑ ∑∑ ∑ ∑ " " # ## # # " - (9)
中国矿亚大鉴CHINA UNIVERSITYOF MININGANDTECHNOLOGY最小二乘拟合多项式的存在唯一性定理1设点x,x.,x互异,则法方程组(9)的解存在且唯一。定理2设a,(k=0,1,…n)是法方程组(9)的,则P,(x)=Zax*是最小二乘拟合多项式,即k=0Zaxf -y,P≤ZIZbxf -yP,Vb eRi=0i-0k=0k=0
CHINA UNIVERSITY OF MINING AND TECHNOLOGY 最小二乘拟合多项式的存在唯一性 0 1 , , m 定理 1 设点 互异,则法方程组 xx x . (9)的解存 在且唯一。 定理 2 设 是法方程组 ak n k ( 0,1, ) = " (9)的,则 0 ( ) n k n k k P x ax = = ∑ 是最小二乘拟合多项式,即 2 2 00 00 [ ] [ ], mn mn k k ki i ki i k ik ik a x y b x y b R == == ∑∑ ∑∑ − ≤ − ∀∈
中国矿亚大业CHINAUNIVERSITYOF MININGANDTECHNOLOGY例1.回到本节开始的实例,从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数y(x) = ao +ax为拟合函数,其基函数为Po(x) = 1Pi(x)= x建立法方程组根据内积公式,可得
CHINA UNIVERSITY OF MINING AND TECHNOLOGY 例1. 回到本节开始的实例,从散点图可以看出 纤维强度和拉伸倍数之间近似与线性关系 y x a a x 0 1 ( ) = + 故可选取线性函数 为拟合函数,其基函数为 ( ) 1 ϕ0 x = ( x ) = x ϕ1 建立法方程组 根据内积公式,可得