第五章自变量的选择与逐步回归 5.1自变量选择对估计和预测的影响 5.2所有子集回归 5.3逐步回归 5.4本章小结与评注
第五章 自变量的选择与逐步回归 5.1 自变量选择对估计和预测的影响 5.2 所有子集回归 5.3 逐步回归 5.4 本章小结与评注
§第5章自变量选择与逐步回归 从20世纪60年代开始,关于回归自变量的选择成为统 计学中研究的热点问题。统计学家们提出了许多回归选 元的准则,并提出了许多行之有效的选元方法。 本章从回归选元对回归参数估计和预测的影响开始, 介绍自变量选择常用的几个准则;扼要介绍所有子集回 归选元的几个方法;详细讨论逐步回归方法及其应用
§第5章 自变量选择与逐步回归 从20世纪60年代开始,关于回归自变量的选择成为统 计学中研究的热点问题。统计学家们提出了许多回归选 元的准则,并提出了许多行之有效的选元方法。 本章从回归选元对回归参数估计和预测的影响开始, 介绍自变量选择常用的几个准则;扼要介绍所有子集回 归选元的几个方法;详细讨论逐步回归方法及其应用
§5.1自变量选择对估计和预测的影响 一、全模型和选模型 设研究某一实际问题涉及到对因变量有影响的因素共 有m个,回归模型为: y=Bo+Bx+B2x2+..+Bnxm+e (5.1) 称为全回归模型。 如果我们从所有可供选择的m个变量中挑选出p个,记 为x1,x2,…,xp,构成的回归模型为: y=B op+B Ipx]+B 2px2.+B ppxp+e p (5.2) 称模型(5.2)式为选模型
§5.1 自变量选择对估计和预测的影响 一、全模型和选模型 设研究某一实际问题涉及到对因变量有影响的因素共 有m y=β0+β1x1+β2x2+…+βmxm+ε (5.1) 如果我们从所有可供选择的m个变量中挑选出p个,记 为x1,x2,…,xp, y=β0p+β1px1+β2px2+…+βppxp +ε p (5.2 称模型(5.2)式为选模型
§5.1自变量选择对估计和预测的影响 一、全模型和选模型 模型选择不当会给参数估计和预测带来什么影响?下 面我们将分别给予讨论。 为了方便,我们把模型(5.1)式的参数估计向量8 和02的估计记为: Bn=(XX)Xy SSE 把模型(5.2)式的参数估计向量记为 B。=(X,X)Xy
§5.1 自变量选择对估计和预测的影响 一、全模型和选模型 模型选择不当会给参数估计和预测带来什么影响?下 为了方便,我们把模型(5.1)式的参数估计向量 和σ2的估计记为: β ˆ β X X Xm y -1 m ( m m ) ˆ m m SSE n m 1 1 ˆ 2 把模型(5.2)式的参数估计向量记为 β X X Xp y -1 p ( p p ) ˆ p SSEp n p 1 1 ˆ 2
§5.1自变量选择对估计和预测的影响 二、自变量选择对预测的影响 关于自变量选择对预测的影响可以分成两种情况: 第一种情况是全模型正确而误用了选模型; 第二种情况是选模型正确而误用了全模型式
§5.1 自变量选择对估计和预测的影响 二、自变量选择对预测的影响 关于自变量选择对预测的影响可以分成两种情况: 第一种情况是全模型正确而误用了选模型; 第二种情况是选模型正确而误用了全模型式