控制原理电子教 若残差E是均值为0、方差为a2的白噪声,即 R=ElEE=o. 10.21) 白噪声是一种理想的随机序列,它在某一时刻的取值与其它时刻的取值无关。 实际上并不存在真正的白噪声,实际噪声都是有色噪声,即实际噪声在某时刻 的值还和以前时刻的值以及其它因素有关。但为了简化分析,许多噪声可以近 似地看作白噪声,因此 Var0-0=(X'X-x. 2X(rX) =0(XX)XX(XX) (10.22 这一结果揭示了(XX)-的物理意义,即它代表了最小二乘法估计误差的方差 的大小 3、最小二乘估计的一致性 所谓估计的一致性是指随着观测次数的增加,估计值6以概率收敛于真 值θ。在参数估计时,总是希望随着观测次数的增加,所得到的估计值越精确。 设E是均值为0,方差为a2的白噪声,则有 Var0-0]=02(rx-=-(Xx- (10.23) 如果 xX=F,且F为非奇异矩阵,则 XX (10.24) 由此可见,只要imxx丁为非奇异矩阵,则当m->0即数据取得足够多 时,最小二乘估计误差的方差趋于0,这表明收敛于O,估计是一致的。 应当指出,上述性质是在{Ek}为白噪声的假设条件下得到的。如果{Ek}为 有色噪声,则估计是有偏的、非一致性估计的,但仍使残差最小 1024应用举例 用线性回归方程建立生产过程或系统静态模型,已在许多方面得到应用, 下面举几个例子说明 例10.1建立水泥凝固时放出的热量与水泥成分之间关系的数学模型。 水泥凝固时所释放出的热量,取决于该水泥各种成分的含量,设某种水泥 的几种成分含量为x1,x2,x3,x4,水泥凝固时放出的热量为y。设其模型 为 y=a0+a,x+a2x2+a3x3+a4x 为辨识参数ao.a1.a2,a3,a4,进行了13次实验,实验数据如下 表10.1水泥凝固时放出的热量实验记录 序号 x 104.3 浙江工业大学自动化研究所 6
自 动 控 制 原 理 电 子 教 案 若残差ε 是均值为 0、方差为σ2 的白噪声，即 R E I (10.21) T = ⋅ = ⋅ 2 [ε ε ] σ 白噪声是一种理想的随机序列，它在某一时刻的取值与其它时刻的取值无关。 实际上并不存在真正的白噪声，实际噪声都是有色噪声，即实际噪声在某时刻 的值还和以前时刻的值以及其它因素有关。但为了简化分析，许多噪声可以近 似地看作白噪声，因此 1 2 1 ] ( ) ( ) ˆ [ − − Var − = X X X ⋅ X X X T T T θ θ σ 2 1 1 ( ) ( ) − − = X X X X X X T T T σ (10.22) 2 1 ( ) − = X XT σ 这一结果揭示了 的物理意义，即它代表了最小二乘法估计误差的方差 的大小。 1 ( ) − X XT 3、最小二乘估计的一致性 所谓估计的一致性是指随着观测次数的增加，估计值 以概率收敛于真 值 θˆ θ 。在参数估计时，总是希望随着观测次数的增加，所得到的估计值越精确。 设ε 是均值为 0，方差为σ2 的白噪声，则有 1 2 2 1 ) 1 ] ( ) ( ˆ [ − − − = = X X m m Var X XT σ T θ θ σ (10.23) 如果 X X F m T m = ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ − →∞ 1 1 lim ，且 F 为非奇异矩阵，则 ) lim 0 1 lim lim ( 2 1 2 = = = →∞ − →∞ →∞ F m X X m m m T m m σ σ ψ (10.24) 由此可见，只要 1 ] 1 lim [ − →∞ X X m T m 为非奇异矩阵，则当 m→∞即数据取得足够多 时，最小二乘估计误差的方差趋于 0，这表明θˆ 收敛于θ ，估计是一致的。 应当指出，上述性质是在{ }k ε 为白噪声的假设条件下得到的。如果{ }k ε 为 有色噪声，则估计是有偏的、非一致性估计的，但仍使残差最小。 10.2.4 应用举例 用线性回归方程建立生产过程或系统静态模型，已在许多方面得到应用， 下面举几个例子说明。 例 10.1 建立水泥凝固时放出的热量与水泥成分之间关系的数学模型。 水泥凝固时所释放出的热量，取决于该水泥各种成分的含量，设某种水泥 的几种成分含量为 ， ， ， ，水泥凝固时放出的热量为 y。设其模型 为 x1 x2 x3 x 4 y a = + a x + a x + a x + a x 0 1 1 2 2 3 3 4 4 为辨识参数 a a 012 , , a , , a 3 a 4 ，进行了 13 次实验，实验数据如下： 表 10.1 水泥凝固时放出的热量实验记录 序号 x 1 x2 x3 x 4 y 1 7 26 6 60 78.5 2 1 29 15 52 74.3 3 11 56 8 20 104.3 浙 江 工 业 大 学 自 动 化 研 究 所 6
自动控制原理电子教案 95.9 18 93.1 0 1159 83.8 下面用最小二乘法估计。 设有一常输入x y=a0R0 +a1 1+a2x2+a3x3 +a4X4 由最小二乘法得 74.3 l1291552 104.3 l1156820 113.3 1166912 于是 6=(Xx)xy=|624054,1.55110.5102,0.1019,-0.114 所以,水泥凝固时放出的热量与水泥成分之间关系的数学模型为 y=624054+16511+0.510x2+0.10193-0144lx4 例102合成纤维抽丝工段,导丝盘的速度对丝的质量是很重要的参数 它和电流周波数有重要关系,由生产记录得到的数据如表102所示 表102合成纤维抽丝工段实验记录 周波数 49950.250.2 导丝盘速度 17017.017.1 选择合适的曲线模型是一件不容易做到的事,需要靠人们对问题所属的 专业知识的了解来确定。如专业上不清楚时,可用坐标纸描出点,从数学上加 以选择 根据表10.2所示实验记录,绘制x-y图如图10.3所示。可见,y与x之 间近似为线性关系,所以,模型结构可以选择为 由最小二乘法得 49250.049.349049049.549849950.250. Y7=[6717016816616716816917017.017, 浙江工业大学自动化研究所
自 动 控 制 原 理 电 子 教 案 4 11 31 8 47 87.6 5 7 52 6 33 95.9 6 11 55 9 22 109.2 7 3 71 17 6 102.7 8 1 31 22 44 72.5 9 2 54 18 22 93.1 10 21 47 4 26 115.9 11 1 40 23 34 83.8 12 11 66 9 12 113.3 13 10 68 8 12 109.4 下面用最小二乘法估计。 设有一常输入 x0 ≡ 1，则 0 0 1 1 2 2 3 3 4 4 y = a x +a x +a x +a x +a x 由最小二乘法得 ， ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = 109.4 113.3 104.3 74.3 78.5 M Y ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = 1 10 68 8 12 1 11 66 9 12 1 11 56 8 20 1 1 29 15 52 1 7 26 6 60 M M M M M X 于是 T T T (X X ) X Y [62.4054,1.5511,0.5102,0.1019, 0.1441] ˆ 1 = = − − θ 所以，水泥凝固时放出的热量与水泥成分之间关系的数学模型为 1 2 3 4 y = 62.4054+1.6511x + 0.5101x + 0.1019x −0.1441x 例 10.2 合成纤维抽丝工段，导丝盘的速度对丝的质量是很重要的参数， 它和电流周波数有重要关系，由生产记录得到的数据如表 10.2 所示 表 10.2 合成纤维抽丝工段实验记录 周波数 x 49.2 50.0 49.3 49.0 49.0 49.5 49.8 49.9 50.2 50.2 导丝盘速度 y 16.7 17.0 16.8 16.6 16.7 16.8 16.9 17.0 17.0 17.1 选择合适的曲线模型是一件不容易做到的事，需要靠人们对问题所属的 专业知识的了解来确定。如专业上不清楚时，可用坐标纸描出点，从数学上加 以选择。 根据表 10.2 所示实验记录，绘制 x-y 图如图 10.3 所示。可见，y 与 x 之 间近似为线性关系，所以，模型结构可以选择为 y = a + bx 由最小二乘法得 ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ = 49.2 50.0 49.3 49.0 49.0 49.5 49.8 49.9 50.2 50.2 1 1 1 1 1 1 1 1 1 1 T X = [16.7 17.0 16.8 16.6 16.7 16.8 16.9 17.0 17.0 17.1] T Y 浙 江 工 业 大 学 自 动 化 研 究 所 7