概率论与统计学经典线性回归分析5
概率论与统计学 经典线性回归分析
01 经典线性回归模型 目录 02 普通最小二乘估计 03 拟合优度和模型选择准则 04 OLS估计量的无偏性和有效性 05 参数假设检验 06 应用与重要实例 概率论与统计学 2
概率论与统计学 目录 01 02 03 2 05 04 经典线性回归模型 普通最小二乘估计 拟合优度和模型选择准则 OLS 估计量的无偏性和有效性 参数假设检验 06 应用与重要实例
01经典线性回归模型概率论与统计学
概率论与统计学 01 经典线性回归模型 3
1.经典线性回归模型>考察以下线性回归模型k>Yi =α+βjXji + &ij=1= X0 +&, i=1,.,n>其中，Yi称为因变量或被解释变量（(Dependent Variable orRegressand），X,=（1,Xii.，Xki)称为p×1维自变量或回归元(Independent Variables or Regressors), p = k +1.>=（α,β1,,βk）是p×1维的未知参数向量；&i是不可观测的随机扰动项。概率论与统计学
概率论与统计学 ➢ 考察以下线性回归模型: 𝑌𝑖 = 𝛼 + 𝑗=1 𝑘 𝛽𝑗𝑋𝑗𝑖 + 𝜀𝑖 = 𝑋𝑖 ′𝜃 + 𝜀𝑖 , 𝑖 = 1, . , 𝑛 ➢ 其 中 , 𝑌𝑖 称 为 因 变 量 或 被 解 释 变 量 (Dependent Variable or Regressand) ， 𝑋𝑖 = (1, 𝑋1𝑖 , . , 𝑋𝑘𝑖)′ 称 为 𝑝 × 1 维自变量或回归元 (Independent Variables or Regressors), 𝑝 = 𝑘 +1. ➢ 𝜃 = (𝛼, 𝛽1, . , 𝛽𝑘)′ 是 𝑝 × 1 维的未知参数向量；𝜀𝑖 是不可观测的随机扰 动项。 4 1. 经典线性回归模型
1.经典线性回归模型>假设E（εilX）=0,若存在某一参数值θ，有E (YiIX,) = E (X,0 +&X) = X,0》此时，X，对Yi的影响是一种线性关系，称线性回归模型是关于条件均值E(YiIX）的正确设定。>对E(YiIX）=X0两边求导，得：dx'edE (YiIX))6dXidXi概率论与统计学
概率论与统计学 ➢ 假设 𝐸 (𝜀𝑖 |𝑋𝑖) = 0, 若存在某一参数值 𝜃，有 𝐸 𝑌𝑖 𝑋𝑖 = 𝐸 𝑋𝑖 ′𝜃 + 𝜀𝑖 𝑋𝑖 = 𝑋𝑖 ′𝜃 ➢ 此时，𝑋𝑖 对 𝑌𝑖 的影响是一种线性关系，称线性回归模型是关于条件均 值 𝐸(𝑌𝑖 |𝑋𝑖) 的正确设定。 ➢ 对 𝐸 𝑌𝑖 𝑋𝑖 = 𝑋𝑖 ′𝜃 两边求导，得： d𝐸 (𝑌𝑖 |𝑋𝑖) d𝑋𝑖 = d𝑋𝑖 ′𝜃 d𝑋𝑖 = 𝜃 5 1. 经典线性回归模型