第四章 无约束最优化方法
第四章 无约束最优化方法
§4.1最速下降法
§ 4.1 最速下降法
问题提出 问题在点x处沿什么方向d2(x)下降最快? 分析:/(x2+ad)=(x)+gd+0(a4a>0) 考查:gdk= ged cos 显然当cos9=-1时,g4d4取极小值 因此 gk 结论负梯度方向使f(x)下降最快亦即最速 下降方向
问题提出 问题：在点 k x 处，沿什么方向 , k d f (x) 下降最快? 分析： ( + ) = ( )+ + ( )( 0) k k T k k k k f x d f x g d o d 考查： k k k cos T k g d = g d 显然当 cos = −1 时， k T k g d 取极小值． 因此： k k d = −g 结论：负梯度方向使 f (x) 下降最快，亦即最速 下降方向．
最速下降法算法 Step1:给出x∈R",O≤E<<1,k:=0 step2:计算v(x),如果V(xk)川≤e,停 Step3:计算下降方向dk=-gk Sep4:计算步长因子ak step5:令xk1=xk+adk,转步2
最速下降法算法 Step1: 给出 x0 R ,0 1, k := 0 n Step2: 计算 ( ), k f x 如果 ( ) , k f x 停． Step3: 计算下降方向 . dk = −gk Step4: 计算步长因子 . k Step5: 令 , k 1 k k dk x + = x + 转步２
分析设f(x)=xGx+b7x+c是正定二次函数, 由精确的线搜索确定的∝=? dk Gd 特别当:dk=-gA sk6k
分析：设 f (x) x Gx b x c T T = + + 2 1 是正定二次函数, 由精确的线搜索确定的 = ? k k T k k T k k d Gd g d = − 特别当： dk = −gk k T k k T k k g Gg g g =