§7,2岭回归估计的性质 性质3对任意k>0,‖B‖≠0,总有 ‖B(k)‖<‖β‖ 这里‖,‖是向量的模,等于向量各分量的平方和。 这个性质表明β(k)可看成由β进行某种向原点的压缩, 从B(k)的表达式可以看到,当k→∞时,β(k)→0, 即β(k)化为零向量
§7.2 岭回归估计的性质 性质3 对任意k>0,‖ β ˆ ‖≠0 ‖ β(k) ˆ ‖<‖ β ˆ ‖ 这里‖•‖是向量的模,等于向量各分量的平方和。 这个性质表明β(k) ˆ 可看成由β ˆ 进行某种向原点的压缩, 从β(k) ˆ 的表达式可以看到,当k→∞时,β(k) ˆ →0, 即β(k) ˆ 化为零向量
§7.2岭回归估计的性质 性质4以MSE表示估计向量的均方误差,则存在k>0,使得 MSE(β(k))<MSE(β) ∑F(β(k)-β)2<∑D(β)
§7.2 岭回归估计的性质 性质4 以MSE表示估计向量的均方误差,则存在k>0,使得 MSE(β(k) ˆ )<MSE(β ˆ ) 即 = − p j 1 2 j j (k) ) ˆ E( < = p j 1 j ) ˆ D(
§7.3岭迹分析 当岭参数k在(0,∞)内变化时,β:(k)是k的函数,在平面坐标系 上把函数β:(k)描画出来。画出的曲线称为岭迹。在实际应用中,可以根据 岭迹曲线的变化形状来确定适当的k值和进行自变量的选择。 在岭回归中,岭迹分析可用来了解各自变量的作用及自变量间的相互 关系。下面由图72所反映的几种有代表性的情况来说明岭迹分析的作用
§7.3 岭迹分析 当岭参数k在(0,∞)内变化时, β(k) j ˆ 是 k的函数,在平面坐标系 上把函数β(k) j ˆ 描画出来。画出的曲线称为岭迹。在实际应用中,可以根据 岭迹曲线的变化形状来确定适当的k值和进行自变量的选择。 在岭回归中,岭迹分析可用来了解各自变量的作用及自变量间的相互 关系。下面由图7.2所反映的几种有代表性的情况来说明岭迹分析的作用
B(k) §7.3 (k) (k) 岭迹 B1(k) 分析 R2(k) B, (k). B(k) O k 图7.2
§7.3 岭迹 分析
§74岭参数k的选择 岭迹法 岭迹法选择k值的一般原则是: (1)各回归系数的岭估计基本稳定; (2)用最小二乘估计时符号不合理的回归系数,其岭估 计的符号变得合理; (3)回归系数没有不合乎经济意义的绝对值 (4)残差平方和增大不太多
§7.4 岭参数k的选择 一、岭迹法 岭迹法选择k值的一般原则是: (1 (2)用最小二乘估计时符号不合理的回归系数,其岭估 计的符号变得合理; (3 (4)残差平方和增大不太多