第三章、经典单方程计量经济学模型:多元线性回归模型 、内容提要 本章将一元回归模型拓展到了多元回归模型,其基本的建模思想与建模方法与一元的 情形相同。主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方 面的应用等方面。只不过为了多元建模的需要,在基本假设方面以及检验方面有所扩充 本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。与一元回 归分析相比,多元回归分析的基本假设中引入了多个解释变量间不存在(完全)多重共线性 这一假设;在检验部分,一方面引入了修正的可决系数,另一方面引入了对多个解释变量是 否对被解释变量有显著线性影响关系的联合性F检验,并讨论了F检验与拟合优度检验的 内在联系。 本章的另一个重点是将线性回归模型拓展到非线性回归模型,主要学习非线性模型如 何转化为线性回归模型的常见类型与方法。这里需要注意各回归参数的具体经济含义。 本章第三个学习重点是关于模型的约束性检验问题,包括参数的线性约束与非线性约 束检验。参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检 验以及参数的稳定性检验三方面的内容,其中参数稳定性检验又包括邹氏参数稳定性检验与 邹氏预测检验两种类型的检验。检验都是以F检验为主要检验工具,以受约東模型与无约 束模型是否有显著差异为检验基点。参数的非线性约束检验主要包括最大似然比检验、沃尔 德检验与拉格朗日乘数检验。它们仍以估计无约束模型与受约束模型为基础,但以最大似然 原理进行估计,且都适用于大样本情形,都以约束条件个数为自由度的x2分布为检验统计 量的分布特征。非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用 、典型例题分析 例1.某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为 ed=10.36-0.094sibs+0.13lmed+0.210fedh R2=0.214 式中,edu为劳动力受教育年数,sibs为该劳动力家庭中兄弟姐妹的个数,medu与fedu分 别为母亲与父亲受到教育的年数。问
第三章、经典单方程计量经济学模型:多元线性回归模型 一、内容提要 本章将一元回归模型拓展到了多元回归模型,其基本的建模思想与建模方法与一元的 情形相同。主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方 面的应用等方面。只不过为了多元建模的需要,在基本假设方面以及检验方面有所扩充。 本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。与一元回 归分析相比,多元回归分析的基本假设中引入了多个解释变量间不存在(完全)多重共线性 这一假设;在检验部分,一方面引入了修正的可决系数,另一方面引入了对多个解释变量是 否对被解释变量有显著线性影响关系的联合性 F 检验,并讨论了 F 检验与拟合优度检验的 内在联系。 本章的另一个重点是将线性回归模型拓展到非线性回归模型,主要学习非线性模型如 何转化为线性回归模型的常见类型与方法。这里需要注意各回归参数的具体经济含义。 本章第三个学习重点是关于模型的约束性检验问题,包括参数的线性约束与非线性约 束检验。参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检 验以及参数的稳定性检验三方面的内容,其中参数稳定性检验又包括邹氏参数稳定性检验与 邹氏预测检验两种类型的检验。检验都是以 F 检验为主要检验工具,以受约束模型与无约 束模型是否有显著差异为检验基点。参数的非线性约束检验主要包括最大似然比检验、沃尔 德检验与拉格朗日乘数检验。它们仍以估计无约束模型与受约束模型为基础,但以最大似然 原理进行估计,且都适用于大样本情形,都以约束条件个数为自由度的 2 分布为检验统计 量的分布特征。非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用。 二、典型例题分析 例 1.某地区通过一个样本容量为 722 的调查数据得到劳动力受教育的一个回归方程为 edu = 10.36 − 0.094sibs + 0.131medu + 0.210 fedu R 2=0.214 式中,edu 为劳动力受教育年数,sibs 为该劳动力家庭中兄弟姐妹的个数,medu 与 fedu 分 别为母亲与父亲受到教育的年数。问
(1)sbs是否具有预期的影响?为什么?若medu与fedu保持不变,为了使预测的受教 育水平减少一年,需要sibs增加多少? (2)请对medu的系数给予适当的解释。 (3)如果两个劳动力都没有兄弟姐妹,但其中一个的父母受教育的年数为12年,另 个的父母受教育的年数为16年,则两人受教育的年数预期相差多少? 解答: (1)预期sbs对劳动者受教育的年数有影响。因此在收入及支出预算约束一定的条件 下,子女越多的家庭,每个孩子接受教育的时间会越短。 根据多元回归模型偏回归系数的含义,sibs前的参数估计值-0.094表明,在其他条件不 变的情况下,每增加1个兄弟姐妹,受教育年数会减少0.094年,因此,要减少1年受教育 的时间,兄弟姐妹需增加1/0.094=10.6个 (2)medu的系数表示当兄弟姐妹数与父亲受教育的年数保持不变时,母亲每增加1 年受教育的机会,其子女作为劳动者就会预期增加0.131年的教育机会。 (3)首先计算两人受教育的年数分别为 10.36+0.131×12+0.210×12=14452 10.36+0.131×16+0.210×16=15816 因此,两人的受教育年限的差别为15.816-14452=1.364 例2.以企业研发支出(R&D)占销售额的比重为被解释变量(Y),以企业销售额(X1) 与利润占销售额的比重(X2)为解释变量,一个有32容量的样本企业的估计结果如下: Y=0472+0.32lg(X1)+0.05X2 (1.37)(0.22) (0046) R2=0099 其中括号中为系数估计值的标准差 (1)解释log(X1)的系数。如果X1增加10%,估计Y会变化多少个百分点?这在经济 上是一个很大的影响吗? (2)针对R&D强度随销售额的增加而提高这一备择假设,检验它不虽X1而变化的假 设。分别在5%和10%的显著性水平上进行这个检验。 (3)利润占销售额的比重X2对R&D强度Y是否在统计上有显著的影响? 解答: (1)log(x1)的系数表明在其他条件不变时,log(x1)变化1个单位,Y变化的单位数, 即△Y=0.32△log(X1)0.32(△X1/X1)=0.32×100%,换言之,当企业销售X1增长100%时,企 业研发支出占销售额的比重Y会增加0.32个百分点。由此,如果ⅹ1增加10%,Y会增加 0.032个百分点。这在经济上不是一个较大的影响 (2)针对备择假设Hl:B1>0,检验原假设H0:B1=0。易知计算的t统计量的值 为t=0.32022=1468。在5%的显著性水平下,自由度为32-3=29的t分布的临界值为1.699 (单侧),计算的t值小于该临界值,所以不拒绝原假设。意味着R&D强度不随销售额的增 加而变化。在10%的显著性水平下,t分布的临界值为1.31l,计算的t值小于该值,拒绝 原假设,意味着R&D强度随销售额的增加而增加。 (3)对X2,参数估计值的t统计值为005/046=1087,它比在10%的显著性水平下的 临界值还小,因此可以认为它对Y在统计上没有显著的影响
(1)sibs 是否具有预期的影响?为什么?若 medu 与 fedu 保持不变,为了使预测的受教 育水平减少一年,需要 sibs 增加多少? (2)请对 medu 的系数给予适当的解释。 (3)如果两个劳动力都没有兄弟姐妹,但其中一个的父母受教育的年数为 12 年,另一 个的父母受教育的年数为 16 年,则两人受教育的年数预期相差多少? 解答: (1)预期 sibs 对劳动者受教育的年数有影响。因此在收入及支出预算约束一定的条件 下,子女越多的家庭,每个孩子接受教育的时间会越短。 根据多元回归模型偏回归系数的含义,sibs 前的参数估计值-0.094 表明,在其他条件不 变的情况下,每增加 1 个兄弟姐妹,受教育年数会减少 0.094 年,因此,要减少 1 年受教育 的时间,兄弟姐妹需增加 1/0.094=10.6 个。 (2)medu 的系数表示当兄弟姐妹数与父亲受教育的年数保持不变时,母亲每增加 1 年受教育的机会,其子女作为劳动者就会预期增加 0.131 年的教育机会。 (3)首先计算两人受教育的年数分别为 10.36+0.13112+0.21012=14.452 10.36+0.13116+0.21016=15.816 因此,两人的受教育年限的差别为 15.816-14.452=1.364 例 2.以企业研发支出(R&D)占销售额的比重为被解释变量(Y),以企业销售额(X1) 与利润占销售额的比重(X2)为解释变量,一个有 32 容量的样本企业的估计结果如下: 0.099 (1.37) (0.22) (0.046) 0.472 0.32log( ) 0.05 2 1 2 = = + + R Y X X 其中括号中为系数估计值的标准差。 (1)解释 log(X1)的系数。如果 X1 增加 10%,估计 Y 会变化多少个百分点?这在经济 上是一个很大的影响吗? (2)针对 R&D 强度随销售额的增加而提高这一备择假设,检验它不虽 X1 而变化的假 设。分别在 5%和 10%的显著性水平上进行这个检验。 (3)利润占销售额的比重 X2 对 R&D 强度 Y 是否在统计上有显著的影响? 解答: (1)log(x1)的系数表明在其他条件不变时,log(x1)变化 1 个单位,Y 变化的单位数, 即Y=0.32log(X1)0.32(X1/X1)=0.32100%,换言之,当企业销售 X1 增长 100%时,企 业研发支出占销售额的比重 Y 会增加 0.32 个百分点。由此,如果 X1 增加 10%,Y 会增加 0.032 个百分点。这在经济上不是一个较大的影响。 (2)针对备择假设 H1:1 0 ,检验原假设 H0:1 = 0 。易知计算的 t 统计量的值 为 t=0.32/0.22=1.468。在 5%的显著性水平下,自由度为 32-3=29 的 t 分布的临界值为 1.699 (单侧),计算的 t 值小于该临界值,所以不拒绝原假设。意味着 R&D 强度不随销售额的增 加而变化。在 10%的显著性水平下,t 分布的临界值为 1.311,计算的 t 值小于该值,拒绝 原假设,意味着 R&D 强度随销售额的增加而增加。 (3)对 X2,参数估计值的 t 统计值为 0.05/0.46=1.087,它比在 10%的显著性水平下的 临界值还小,因此可以认为它对 Y 在统计上没有显著的影响
例3.下表为有关经批准的私人住房单位及其决定因素的4个模型的估计量和相关统计 值(括号内为p-值)(如果某项为空,则意味着模型中没有此变量)。数据为美国40个城市 的数据。模型如下: housin g=B.+B,density+Bvalue+B, income+ B popchang +B,unemp+ B localtax +B,statetax+u 式中 housing-—实际颁发的建筑许可证数量, density.--每平方英里的人口密度, value 自由房屋的均值(单位:百美元), Income-平均家庭的收入(单位:千美元), pophung 1980-1992年的人口增长百分比, unemp-—失业率, localtax-—人均交纳的地方税 etax-人均缴纳的州税 变量 模型A 模型B 模型C 模型D 813(0.74) L-392(081) 1279(0.34) 973(0.44) Density 0075(043)0062(032)042(047 0.873(0.11) -0.994(006) Income 1104(0.14)13303(04) 125.71(0.05) 11660(0.06) Popchang 6.77(0.11) 29.19(0.06) 2941(0.001) 2486(0.08) U 55(0.48) 0.06100.95 Statetax 1.006(0.40) 004(0.37) RSS 4.763e+7 4.843e+7 4.962e+7 5.038e+7 0.349 0.338 0.322 0.312 1488e+6 1424e+6 1.418e+6 1.399+6 1.776e+6 1.634e+6 1.593e+6 1.538e+6 (1)检验模型A中的每一个回归系数在10%水平下是否为零(括号中的值为双边备择p 值)。根据检验结果,你认为应该把变量保留在模型中还是去掉? (2)在模型A中,在10‰%水平下检验联合假设H:β1=0(i=1,5,6,7)。说明被择假设,计 算检验统计值,说明其在零假设条件下的分布,拒绝或接受零假设的标准。说明你的 结论 (3)哪个模型是“最优的”?解释你的选择标准 (4)说明最优模型中有哪些系数的符号是“错误的”。说明你的预期符号并解释原因。确认 其是否为正确符号。 解谷: (1)直接给出了P-值,所以没有必要计算t-统计值以及查t分布表。根据题意,如果 p-值<0.10,则我们拒绝参数为零的原假设 由于表中所有参数的p-值都超过了10%,所以没有系数是显著不为零的。但由此去掉所 有解释变量,则会得到非常奇怪的结果。其实正如我们所知道的,多元回去归中在省略变量 时一定要谨慎,要有所选择。本例中, value、 Income、 popchang的p-值仅比0.1稍大一点, 在略掉 unemp、 localtax、 statetax的模型C中,这些变量的系数都是显著的 (2)针对联合假设H 0(i=1,5,6,7)的备择假设为H:β1=0(i=1,5,6,7) 中至少有一个不为零。检验假设H0,实际上就是参数的约束性检验,非约束模型为模型A
例 3.下表为有关经批准的私人住房单位及其决定因素的 4 个模型的估计量和相关统计 值(括号内为 p-值)(如果某项为空,则意味着模型中没有此变量)。数据为美国 40 个城市 的数据。模型如下: + + + + = + + + + unemp localtax statetax hou g density value income popchang 5 6 7 0 1 2 3 4 sin 式中 housing——实际颁发的建筑许可证数量,density——每平方英里的人口密度,value— —自由房屋的均值(单位:百美元),income——平均家庭的收入(单位:千美元),popchang ——1980~1992 年的人口增长百分比,unemp——失业率,localtax——人均交纳的地方税, statetax——人均缴纳的州税 变量 模型 A 模型 B 模型 C 模型 D C 813 (0.74) -392 (0.81) -1279 (0.34) -973 (0.44) Density 0.075 (0.43) 0.062 (0.32) 0.042 (0.47) Value -0.855 (0.13) -0.873 (0.11) -0.994 (0.06) -0.778 (0.07) Income 110.41 (0.14) 133.03 (0.04) 125.71 (0.05) 116.60 (0.06) Popchang 26.77 (0.11) 29.19 (0.06) 29.41 (0.001) 24.86 (0.08) Unemp -76.55 (0.48) Localtax -0.061 (0.95) Statetax -1.006 (0.40) -1.004 (0.37) RSS 4.763e+7 4.843e+7 4.962e+7 5.038e+7 R 2 0.349 0.338 0.322 0.312 2 ˆ 1.488e+6 1.424e+6 1.418e+6 1.399e+6 AIC 1.776e+6 1.634e+6 1.593e+6 1.538e+6 (1)检验模型 A 中的每一个回归系数在 10%水平下是否为零(括号中的值为双边备择 p- 值)。根据检验结果,你认为应该把变量保留在模型中还是去掉? (2)在模型 A 中,在 10%水平下检验联合假设 H0:i =0(i=1,5,6,7)。说明被择假设,计 算检验统计值,说明其在零假设条件下的分布,拒绝或接受零假设的标准。说明你的 结论。 (3)哪个模型是“最优的”?解释你的选择标准。 (4)说明最优模型中有哪些系数的符号是“错误的”。说明你的预期符号并解释原因。确认 其是否为正确符号。 解答: (1)直接给出了 P-值,所以没有必要计算 t-统计值以及查 t 分布表。根据题意,如果 p-值<0.10,则我们拒绝参数为零的原假设。 由于表中所有参数的 p-值都超过了 10%,所以没有系数是显著不为零的。但由此去掉所 有解释变量,则会得到非常奇怪的结果。其实正如我们所知道的,多元回去归中在省略变量 时一定要谨慎,要有所选择。本例中,value、income、popchang 的 p-值仅比 0.1 稍大一点, 在略掉 unemp、localtax、statetax 的模型 C 中,这些变量的系数都是显著的。 (2)针对 联合假设 H0 :i =0(i=1,5,6,7)的备择假 设为 H1:i =0(i=1,5,6,7) 中至少有一个不为零。检验假设 H0,实际上就是参数的约束性检验,非约束模型为模型 A
约束模型为模型D,检验统计值为 F (RSS-RSSU)/ku-kg)(5038e+7-4763e+7)(7-3) 0.462 RSSu/(n-ku-D) (4.763e+7)/(40-8) 显然,在HO假设下,上述统计量满足F分布,在10%的显著性水平下,自由度为(4,32) 的F分布的临界值位于209和2.14之间。显然,计算的F值小于临界值,我们不能拒绝 H0,所以βi(i=1,5,6,7)是联合不显著的。 (3)模型D中的3个解释变量全部通过显著性检验。尽管R2与残差平方和较大,但相 对来说其AIC值最低,所以我们选择该模型为最优的模型 (4)随着收入的增加,我们预期住房需要会随之增加。所以可以预期β3>0,事实上其 估计值确是大于零的。同样地,随着人口的增加,住房需求也会随之增加,所以我们预期β 4>0,事实其估计值也是如此。随着房屋价格的上升,我们预期对住房的需求人数减少,即 我们预期β3估计值的符号为负,回归结果与直觉相符。出乎预料的是,地方税与州税为不 显著的。由于税收的增加将使可支配收入降低,所以我们预期住房的需求将下降。虽然模型 A是这种情况,但它们的影响却非常微弱 4、在经典线性模型基本假定下,对含有三个自变量的多元回归模型: Bo+BX+B2x2+BX3+u 你想检验的虚拟假设是H0:B1-2B2=1。 (1)用B1,B2的方差及其协方差求出Ham(B1-2B2) (2)写出检验H0:B1-2B2=1的t统计量 (3)如果定义B1-2B2=6,写出一个涉及β0、0、B2和β3的回归方程,以便能直接得 到θ估计值及其标准误 解答 1)由数理统计学知识易知 an(B1-2B2)=am(B1)-4Cov(B1,A2)+4ar(B2,) (2)由数理统计学知识易知 B1-2B2 其中se(B1-2B2)为(B1-2B2)的标准差 se(B-2B, (3)由B1-2B2=6知B=b+2B2,代入原模型得 Y=B+(6+2B2)X1+B2X2+B3X3+ =B+X1+B2(2X1+X2)+B3X3+ 这就是所需的模型,其中θ估计值θ及其标准误都能通过对该模型进行估计得到
约束模型为模型 D,检验统计值为 0.462 (4.763 7)/(40 8) (5.038 7 4.763 7)/(7 3) /( 1) ( )/( ) = + − + − + − = − − − − = e e e RSS n k RSS RSS k k F U U R U U R 显然,在 H0 假设下,上述统计量满足 F 分布,在 10%的显著性水平下,自由度为(4,32) 的 F 分布的临界值位于 2.09 和 2.14 之间。显然,计算的 F 值小于临界值,我们不能拒绝 H0,所以βi(i=1,5,6,7)是联合不显著的。 (3)模型 D 中的 3 个解释变量全部通过显著性检验。尽管 R2 与残差平方和较大,但相 对来说其 AIC 值最低,所以我们选择该模型为最优的模型。 (4)随着收入的增加,我们预期住房需要会随之增加。所以可以预期β3>0,事实上其 估计值确是大于零的。同样地,随着人口的增加,住房需求也会随之增加,所以我们预期β 4>0,事实其估计值也是如此。随着房屋价格的上升,我们预期对住房的需求人数减少,即 我们预期β3 估计值的符号为负,回归结果与直觉相符。出乎预料的是,地方税与州税为不 显著的。由于税收的增加将使可支配收入降低,所以我们预期住房的需求将下降。虽然模型 A 是这种情况,但它们的影响却非常微弱。 4、在经典线性模型基本假定下,对含有三个自变量的多元回归模型: Y = 0 + 1X1 + 2X2 + 3X3 + 你想检验的虚拟假设是 H0: 1 − 2 2 =1。 (1)用 1 2 ˆ , ˆ 的方差及其协方差求出 ) ˆ 2 ˆ ( Var 1 − 2 。 (2)写出检验 H0: 1 − 2 2 =1 的 t 统计量。 (3)如果定义 1 − 2 2 = ,写出一个涉及0、、2 和3 的回归方程,以便能直接得 到估计值 ˆ 及其标准误。 解答: (1)由数理统计学知识易知 ) ˆ ) 4 ( ˆ , ˆ ) 4 ( ˆ ) ( ˆ 2 ˆ ( Var 1 − 2 = Var 1 − Cov 1 2 + Var 2 (2)由数理统计学知识易知 ) ˆ 2 ˆ ( 1 ˆ 2 ˆ 1 2 1 2 − − − = se t ,其中 ) ˆ 2 ˆ (1 − 2 se 为 ) ˆ 2 ˆ (1 − 2 的标准差。 (3)由 1 − 2 2 = 知 1 = + 22 ,代入原模型得 = + + + + + = + + + + + 0 1 2 1 2 3 3 0 2 1 2 2 3 3 (2 ) ( 2 ) X X X X Y X X X 这就是所需的模型,其中估计值 ˆ 及其标准误都能通过对该模型进行估计得到
、习题 (一)基本知识类题型 1.解释下列概念: 1)多元线性回归 6)参数估计量的置信区间 2)虚变量 7)被解释变量预测值的置信区间 3)正规方程组 8)受约束回归 4)无偏性 )无约束回归 5)一致性 10)参数稳定性检验 3-2.观察下列方程并判断其变量是否呈线性?系数是否呈线性?或都是?或都不是? 1)Y=Bo+B,X:+E 2)Y=Po+B, log X,+a 3)log Y=Po+B, log X,+a 4)Y=B0+B1(B2X1)+E = B BX 6)Y=1+B0(1-X)+E1 7)Y1=+B1X1+B2X2/10+6 3-3.多元线性回归模型与一元线性回归模型有哪些区别? 3-4.为什么说最小二乘估计量是最优的线性无偏估计量?多元线性回归最小二乘估计的正 规方程组,能解出唯一的参数估计的条件是什么? 3-5.多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效 性的过程中,哪些基本假设起了作用? 3-6.请说明区间估计的含义。 (二)基本证明与问答类题型 3-7.什么是正规方程组?分别用非矩阵形式和矩阵形式写出模型 y=B+B1x1+B2x21+…+Bx+t1,i=1,2,…,n的正规方程组,及其推导过程
三、习题 (一)基本知识类题型 3-1.解释下列概念: 1) 多元线性回归 2) 虚变量 3) 正规方程组 4) 无偏性 5) 一致性 6) 参数估计量的置信区间 7) 被解释变量预测值的置信区间 8) 受约束回归 9) 无约束回归 10) 参数稳定性检验 3-2.观察下列方程并判断其变量是否呈线性?系数是否呈线性?或都是?或都不是? 1) Yi Xi i = + + 3 0 1 2) Yi Xi i = + log + 0 1 3) Yi Xi i log = + log + 0 1 4) Yi Xi i = + ( ) + 0 1 2 5) i i i X Y = + 1 0 6) Yi Xi i = 1+ (1− ) + 1 0 7) Yi X i X i i = + + 10 + 0 1 1 2 2 3-3.多元线性回归模型与一元线性回归模型有哪些区别? 3-4.为什么说最小二乘估计量是最优的线性无偏估计量?多元线性回归最小二乘估计的正 规方程组,能解出唯一的参数估计的条件是什么? 3-5.多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效 性的过程中,哪些基本假设起了作用? 3-6.请说明区间估计的含义。 (二)基本证明与问答类题型 3-7.什么是正规方程组?分别用非矩阵形式和矩阵形式写出模型: i i i k ki ui y = 0 + 1 x1 + 2 x2 ++ x + ,i = 1,2, ,n 的正规方程组,及其推导过程