第四章最小二乘法 两个自变量的最小二乘法
1 第四章 最小二乘法(二) 两个自变量的最小二乘法
问题的提出 现实生活中引起因变量变化的因素并非 仅只一个自变量,可能有很多个自变量 为了简便先讨论只有两个自变量的线性 模型。 例如,产出往往受各种投入要素——资 本、劳动、技术等的影响;销售额往往 受价格和公司对广告费的投入的影响 所以在一元线性模型的基础上,提出了 元线性模型:Y=a+b1X1+b2X2+u
2 问题的提出 • 现实生活中引起因变量变化的因素并非 仅只一个自变量,可能有很多个自变量。 为了简便先讨论只有两个自变量的线性 模型。 • 例如,产出往往受各种投入要素——资 本、劳动、技术等的影响;销售额往往 受价格和公司对广告费的投入的影响。 • 所以在一元线性模型的基础上,提出了 二元线性模型:Yi=a+b1Xi1+b2Xi2+ui
解决问题的思路 在二元模型中要估计的乃是一个平面。 选取最好“平面”的准则,仍然是实际 点到拟合平面(通常仍称它为拟合直线) 的纵向距离最小—拟合值尽可能逼近 真值,即使残差(实际值减去拟合直线 上对应的Y^值)的平方和最小 于是将问题转化为一个求极值的数学问 题
3 解决问题的思路 • 在二元模型中要估计的乃是一个平面。 • 选取最好“平面”的准则,仍然是实际 点到拟合平面(通常仍称它为拟合直线) 的纵向距离最小——拟合值尽可能逼近 真值,即使残差(实际值减去拟合直线 上对应的Y^值)的平方和最小。 • 于是将问题转化为一个求极值的数学问 题
第一节含两个自变量的 最小二乘法 原始数据的矩阵表示 数学原理 正规方程 正规方程的解 正规方程解的行列式表示 最小二乘法的矩阵表示
4 第一节 含两个自变量的 最小二乘法 原始数据的矩阵表示 数学原理 正规方程 正规方程的解 正规方程解的行列式表示 最小二乘法的矩阵表示
元原始数据 模型:y=a+bx+L分Y=XB+分Y=Y+Y=XB xX1 ∑ Y B u2 Xy xX ∑ X XX X x2 ∑x,∑x xX1 Di xXC (XX XXi xXCn
一元原始数据 ( ) ( ) − − − = = = = = = = = = + + = + = + = − x x x x x x x x x x x x y y u u u x x x y y y y x u i i i i i i i i n i i i n n n i i i n n X X n X X X u X Y b a Y X B a b Y XB u Y Y u Y XB 2 2 2 1 2 1 2 2 1 2 1 2 1 1 1 1 , , 1 1 1 , ˆ ˆ ˆ 模型: