第二章最小二乘拟合
1 第二章 最小二乘拟合
函数逼近问题 ■给定未知函数f(x)的若干采样点：{(x,f(x)}”。,构造 函数(x)使得 p(x)=f(x),i=0,1,,n 或者要求满足某种范数意义下的最小化 mino(x)-f(x。 ■函数通近的常用方法 ·插值 ●均方逼近（最小二乘法） ●一致逼近 g)≈fx) 3 2
¡ 给定未知函数 的若干采样点： ，构造 函数 使得 或者要求满足某种范数意义下的最小化 ¡ 函数逼近的常用方法 l 插值 l 均方逼近（最小二乘法） l 一致逼近 2 f (x) 0 {( , ( ))} n i i i x f x (x) ( ) ( ), 0,1, , . i i x f x i n min ( ) ( ) p x f x x0 x1 x2 x x3 x4 g(x) f(x)
拟合函数 在实际问题中，数据不可避免的会有误差，插值函数 会将这些误差也包括在内 ·若误差较大时，用插值方法构造函数的效果不好 ■用通近的方法构造函数 ●不要求过所有的点【可以减少误差影响) ●尽可能表现数据的趋势，靠近这些点 16 14 12 10 8 y=1.538x-0.360 十十十十 46810
¡ 在实际问题中，数据不可避免的会有误差，插值函数 会将这些误差也包括在内 ¡ 若误差较大时，用插值方法构造函数的效果不好 ¡ 用逼近的方法构造函数 l 不要求过所有的点（可以减少误差影响） l 尽可能表现数据的趋势，靠近这些点 3
拟合函数 e. ■如何刻画数据点和逼近函数之间的靠近程度？ ■ 给定一组观察或测量得到的一组离散数据序列{(x,y,) ,选定函数空间Φ，构造函数p(x)EΦ，使得函数p(x) 最优的靠近离散数据序孙，y)，即向量 =(p(x),p(x),,p(xm)'与Y=(%,乃2，ynY的误差或距离 最小 ■如何定义向量之间的距离：向量范数 RIg-Y=∑o(x)-y 最小平均逼近 R0-y-2m()-f) 最小平方逼近 R =le-Y lle=max (1o,(x)-y, 最小一致逼近 4
¡ 如何刻画数据点和逼近函数之间的靠近程度？ ¡ 给定一组观察或测量得到的一组离散数据序列 ，选定函数空间 ，构造函数 ，使得函数 最优的靠近离散数据序列 ，即向量 与 的误差或距离 最小 ¡ 如何定义向量之间的距离：向量范数 4 1 ( , ) m i i i x y (x) (x) 1 ( , ) m i i i x y 1 2 ( ), ( ), , ( ) T Q m x x x 1 2 ( , , , ) T Y m y y y 1 1 1 || || ( ) m i i i R Q Y x y 1/2 2 2 2 1 || || ( ) m i i i R Q Y x y 1 || || max | ( ) | i i i m R Q Y x y 最小平均逼近 最小平方逼近 最小一致逼近
拟合函数 ■Gauss:和Legendre分别发明 ■ 景小二乘法：R=-②)) ●均方误差 ●按均方误差达到最小 ●优点：易于求解 ■景小二乘法是最基本的函数逼近方法，被广泛应用于 运筹学、统计学、逼近论等各个领城 ·问题：如何选定函数空间心？ ●专业知识或工作经验 ·观察数据 5
¡ Gauss和Legendre分别发明 ¡ 最小二乘法： l 均方误差 l 按均方误差达到最小 l 优点：易于求解 ¡ 最小二乘法是最基本的函数逼近方法，被广泛应用于 运筹学、统计学、逼近论等各个领域 ¡ 问题：如何选定函数空间 ？ l 专业知识或工作经验 l 观察数据 5 2 2 2 1 ( ) m i i i R R x y