回归分析的定义及分类回归分析（RegressionAnalysis）：确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，-(1)回归模型的一般形式：yi=f(xiEi;β)回归分析的定义及分类0回归模型依赖于函数的形式f()和参数β的大小：2类别分类标准特征变量的个数一元回归模型、多元回归模型特征变量与响应变量的关系线性回归模型、非线性回归模型单方程回归模型、联立方程回归模型回归方程的个数数据类型的特点横截面模型、时间序列模型、面板模型
回归分析 的定义及 分类 0 1 回归分析（Regression Analysis）： 确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。 0 3 回归模型依赖于函数的形式𝑓(∙)和参数𝛽的大小： 0 2 回归模型的一般形式： 𝑦𝑖 = 𝑓 𝑥𝑖 , 𝜖𝑖 ; 𝛽 (1) 分类标准 类 别 特征变量的个数 一元回归模型、多元回归模型 特征变量与响应变量的关系 线性回归模型、非线性回归模型 回归方程的个数 单方程回归模型、联立方程回归模型 数据类型的特点 横截面模型、时间序列模型、面板模型 回归分析的定义及分类
多元线性回归模型回顾对于个体i，假设回归模型为：yi=xβ+Ei(2)特征变量x以线性的形式进入模型，且与E是加法可分的该回归模型也可表示为矩阵形式（更常用）(3)Y=Xβ+E多元线性最小二乘法（OLS）原理：找到使得模型残差平方和最小的参数向量β回归模型BoLs=argmin(yi-x,β)2(4)(Multiple Linear估计量的性质：Regression Model小样本分析中，在经典线性回归假设下，βoLs具有无偏性和有效性大样本分析中，在大数定律和中心极限定理的保证下BoL还具有一致性和渐进正态性拟合优度：R?或者调整R2
多元线性 回归模型 （Multiple Linear Regression Model） 请输入标题 请输入标题 请输入标题 请输入标题 请输入标题 对于个体i，假设回归模型为： 𝑦𝑖 = 𝑥𝑖 ′𝛽 + 𝜖𝑖 (2) 特征变量𝑥𝑖 ′以线性的形式进入模型，且与𝜖𝑖是加法可分的 该回归模型也可表示为矩阵形式（更常用）： Y=Xβ+ϵ (3) 估计量的性质： ⚫ 小样本分析中，在经典线性回归假设下， 𝛽መ 𝑂𝐿𝑆具有无偏性 和有效性 ⚫ 大样本分析中，在大数定律和中心极限定理的保证下， 𝛽መ 𝑂𝐿𝑆还具有一致性和渐进正态性 拟合优度：𝑅 2 或者调整𝑅 2 最小二乘法（OLS）原理：找到使得模型残差平 方和最小的参数向量β 𝜷 𝑂𝐿𝑆 = 𝑎𝑟𝑔 𝑚𝑖𝑛 𝜷 𝑖=1 𝑁 𝑦𝑖 − 𝒙𝑖 ′𝜷 2 (4) 多元线性回归模型回顾
回归分析：计量经济学vs机器学习领域计量经济学重视统计推断（包括参数的点估计、区间估计以及假设检验）尤其重视如何借助回归模型推断变量之间的因果关系机器学习更重视模型的预测准确率（accuracy）和解释力（interpretation）预测准确率指在训练集上得到的回归模型在测试集上的预测表现模型解释力指回归系数能否直观简洁描绘特征变量对响应变量的影响
回归分析: 计量经济学 vs 机器学习领域 ⚫ 重视统计推断（包括参数的点估计、区间估计以及假设检验） ⚫ 尤其重视如何借助回归模型推断变量之间的因果关系 计 量 经 济 学 更重视模型的预测准确率（accuracy）和解释力（interpretation） ⚫ 预测准确率指在训练集上得到的回归模型在测试集上的预测表现 ⚫ 模型解释力指回归系数能否直观简洁描绘特征变量对响应变量的影响 机 器 学 习
回归分析在金融领域的应用场风险评估与识别价格与收益率预测用户画像与精准营销。信用风险，市场风险、操量化投资，预测未来资产实现对不同类型客户的精作风险、流动性风险、管准营销价格和收益率理风险等采用系数压缩、变量筛选·多分类Logistic回归模型二分类Logistic/Probit回等方法对回归模型改进归模型，Cox比例风险回归模型
回归分析在金融领域的应用场 • 信用风险，市场风险、操 作风险、流动性风险、管 理风险等 • 二分类Logistic/Probit回 归模型，Cox比例风险回归 模型 风险评估与识别 • 量化投资，预测未来资产 价格和收益率 • 采用系数压缩、变量筛选 等方法对回归模型改进 价格与收益率预测 • 实现对不同类型客户的精 准营销 • 多分类Logistic回归模型 用户画像与精准营销
PARTO2多元定性响应变量的回归模型Regressionmodelofmultiplequalitativeresponsevariables
PART 02 多元定性响应变量 的回归模型 Regression model of multiple qualitative response variables