线性回归口单一属性的线性回归目标f(α)=wci+b 使得 f(ci)yi口参数/模型估计:最小二乘法(leastsquaremethod)mZ(f (ri) - yi)2(w*,b*) = argmin(w,b)i=1mZ(yi - wci-b)2= arg min(w,b)i=1
线性回归 单一属性的线性回归目标 参数/模型估计:最小二乘法(least square method) 使得
线性回归-最小二乘法口最小化均方误差mE(w,b) =Z(yi-wci-b)i=1口分别对和b求导,可得mmaE(w,b)>2Z.2wciyi-03awi=1i=1mE(w,b)mb.2yi-wci0bi=1
线性回归 - 最小二乘法 最小化均方误差 分别对 和 求导,可得
线性回归一最小二乘法口得到闭式(closed-form)解mZyyi(ci-a)i=1w=2mmc1ZKimi=1=1m1bZI(yi-wcimi=1其中m1Cimi=1
线性回归 - 最小二乘法 得到闭式(closed-form)解 其中
多元线性回归口给定数据集D = ((α1, Y1 ), (α2, Y2 ), .. . , (αm, m ))C =(αil; Ci2,...; Cid) Yi ER口多元线性回归目标f(αi)=wTai+b使得f(ci)-yi
多元线性回归 给定数据集 多元线性回归目标 使得
多元线性回归口把w和b吸收入向量形式w=(w:b),数据集表示为αTC11C12Cidc211T212dC22X =.........71一Cmlamdm2my = (y1; Y2; ...;Ym
多元线性回归 把 和 吸收入向量形式 ,数据集表示为