§5.2 所有子集回归 准则1自由度调整复相关系数达到最大 R2=1- n-11-R2) n-p-1 显然有R?≤R,R2随着自变量的增加并不一定增大。 从拟合优度的角度追求“最优”，则所有回归子集中？最大者 对应的回归方程就是“最优”方程
§5.2 所有子集回归 准则1 自由度调整复相关系数达到最大 (1 ) 1 1 1 2 2 R n p n Ra 显然有 2 Ra ≤R 2 ， 2 Ra 随着自变量的增加并不一定增大。 从拟合优度的角度追求“最优”，则所有回归子集中 2 Ra 最大者 对应的回归方程就是“最优”方程
§5.2 所有子集回归 准则1自由度调整复相关系数达到最大 从另外一个角度考虑回归的拟合效果， 回归误差项方差σ的无偏估计为： 62= -SSE n-p- 此无偏估计式中也加入了惩罚因子n-p-1
§5.2 所有子集回归 准则1 自由度调整复相关系数达到最大 从另外一个角度考虑回归的拟合效果， 回归误差项方差σ2的无偏估计为： SSE n p 1 1 ˆ 2 此无偏估计式中也加入了惩罚因子n-p-1
§5.2 所有子集回归 准则1自由度调整复相关系数达到最大 由以上分析，用平均残差平方和62作为自变量选元准则是合理的， 那末它和调整的复判定系数2准则有什么关系哪？实际上，这两个 准则是等价的，容易证明以下关系式成立 R2=1-n-162 SST 由于SST是与回归无关的固定值，因而R?与62是等价的
§5.2 所有子集回归 准则1 自由度调整复相关系数达到最大 由以上分析，用平均残差平方和 2 ˆ 作为自变量选元准则是合理的， 那末它和调整的复判定系数 2 Ra 准则有什么关系哪？实际上，这两个 准则是等价的，容易证明以下关系式成立 2 2 ˆ 1 1 SST n Ra 由于SST 是与回归无关的固定值，因而 2 Ra 与 2 ˆ 是等价的
§5.2所有子集回归 准则2赤池信息量AIC达到最小 AIC准则是日本统计学家赤池(Akaike)1974年根据极 大似然估计原理提出的一种较为一般的模型选择准则，人 们称它为Akaike信息量准则(Akaike Information Criterion, 简记为AIC)。AIC准则既可用来作回归方程自变量的选择， 又可用于时间序列分析中自回归模型的定阶上。由于该方 法的广泛应用，使得赤池乃至日本统计学家在世界的声誉 大增
§5.2 所有子集回归 准则2 赤池信息量AIC达到最小 AIC准则是日本统计学家赤池(Akaike)1974年根据极 大似然估计原理提出的一种较为一般的模型选择准则，人 们称它为Akaike信息量准则 (Akaike Information Criterion, 简记为AIC)。AIC准则既可用来作回归方程自变量的选择， 又可用于时间序列分析中自回归模型的定阶上。由于该方 法的广泛应用，使得赤池乃至日本统计学家在世界的声誉 大增
§5.2 所有子集回归 准则2赤池信息量AIC达到最小 设回归模型的似然函数为L(0,x),0的维数为，x为样本，在 回归分析中样本为y=(y1,y2,yn)',则AIC定义为： AIC--2InL(0 ,x)+2p 其中0，是6的极大似然估计，p是未知惨数的个数
§5.2 所有子集回归 准则2 赤池信息量AIC达到最小 设回归模型的似然函数为L(θ,x), θ的维数为p，x为样本，在 回归分析中样本为y=（y1，y2，…yn）′，则AIC定义为： AIC=-2lnL( L θ ˆ ,x)+2p 其中 L θ ˆ 是θ的极大似然估计，p是未知参数的个数