最速下降法优点 (1)程序设计简单,计算量小,存储量小 对初始点没有特别要求 (2)有着很好的整体收敛性,即使对一般的 目标函数,它也整体收敛
最速下降法优点 (1) 程序设计简单，计算量小，存储量小， 对初始点没有特别要求． (2) 有着很好的整体收敛性，即使对一般的 目标函数，它也整体收敛．
最速下降法缺点 (1)最速下降法是线性收敛的,并且有时是 很慢的线性收敛 原因dk=-gk仅反映f(x)在xk处 的局部性质 ②g14lk=0,相继两次迭代中搜索 方向是正交的
最速下降法缺点 (1) 最速下降法是线性收敛的，并且有时是 很慢的线性收敛． 原因：① dk = −gk 仅反映 f (x) 在 k x 处 的局部性质． ② 0 , +1 k = T gk d 相继两次迭代中搜索 方向是正交的．
小结 (1)最速下降法是基本算法之一,而非有效 的实用算法 最速下降法的本质是用线性函数来近似 目标函数,要想得到快速算法,需要考 虑对目标函数的高阶逼近
小结 (1) 最速下降法是基本算法之一，而非有效 的实用算法． 最速下降法的本质是用线性函数来近似 目标函数，要想得到快速算法，需要考 虑对目标函数的高阶逼近．
§4.2牛顿法
§ 4.2 牛顿法
基本思想 利用目标函数/(x)在点x处的二阶 Taylor 展开式去近似目标函数用二次函数的极小点 去逼近目标函数的极小点
基本思想 利用目标函数 f (x) 在点 k x 处的二阶Taylor 展开式去近似目标函数，用二次函数的极小点 去逼近目标函数的极小点．