多元线性回归 口给定数据集 D={(c1,y1),(c2,2),,(cm,ym)} c=(x1;x2;.;xd)y∈R 口多元线性回归目标 f(c)=wTc:+b使得∫(c)≈y 电子科技大学研究生《机器学习》课程
电子科技大学研究生《机器学习》课程 多元线性回归 o 给定数据集 o 多元线性回归目标 使得
多元线性回▣归 把w和b吸收入向量形式.心=(w:b),数据集表示为 C11 C12 Xid 1 C21 C22 1 1 X- Im2 x y=(y1;y2;..;ym) 电子科技大学研究生《机器学习》课程
电子科技大学研究生《机器学习》课程 多元线性回归 o 把 和 吸收入向量形式. ，数据集表示为
多元线性回归-最小二乘法 ▣最二乘法least square method) *=arg min(y-Xu)T(y-Xw) 令Eb=(y-X心)T(y-X心)，动球导得到 0Em=2X(X⑩-w0） 0心 令上式为零可得ù最优解的闭式解 然而，麻烦来了：涉及矩阵求逆！ 电子科技大学研究生《机器学习》课程
电子科技大学研究生《机器学习》课程 令上式为零可得 最优解的闭式解 多元线性回归 - 最小二乘法 p 最小二乘法（least square method） 令 ，对 求导得到 然而，麻烦来了：涉及矩阵求逆！