HHHHHHHHHHHHHHHHHHHH无约束极值问题回页
无约束极值问题
HHHHHHHHHHHHHHHHHHHHHH无约束极值问题无约束极值问题可简单表述为（n维欧氏空间）min f(X), XeRnX(k+1)=X(k)+Xp(k) 且满足f [X(k+1)]<f [X()]这样逐步送代直至满足精度条件IVf[X(+1)]I<(梯度绝对值<)2尚页庆
无约束极值问题 无约束极值问题可简单表述为： min f(X)，XRn （n维欧氏空间） X(k+1)=X(k)+p (k) 且满足 f [X(k+1) ]< f [X(k) ] 这样逐步迭代直至满足精度条件 ‖▽f [X(k+1) ]‖< 1 (梯度绝对值< 1 )
HHHHHHHHHHHHHHHHHHHHHHH无约束最优化方法无约束极值问题的求解方法通常称为无约束最优化方法(unconstrainedoptimizationmethod)如何选择搜索方向是无约束最优化方法的核心，且不同的搜索方向形成不同的最优化方法无约束极值的求解方法包括：最速下降法牛顿法共轭梯度法变尺度法回页
无约束最优化方法 ➢ 无约束极值问题的求解方法通常称为无约束最优化方法 (unconstrained optimization method) ➢ 如何选择搜索方向是无约束最优化方法的核心，且不同的 搜索方向形成不同的最优化方法。 ➢ 无约束极值的求解方法包括： • 最速下降法 • 牛顿法 • 共轭梯度法 • 变尺度法
HHHHHHHHHHHHHHHHHHHHHH最速下降法回顾对于无约束最优化问题：min (f (X), X= (x1, x2. ., xn)假设已经迭代了k次，第k次迭代点为x(k)且令Xx +apr,为了让f(x)<(x),需要进行以下步骤：上页回下页
最速下降法回顾 x 对于无约束最优化问题： min{ f (X)}, X = (x1 , x2 , ., xn ) T 假设已经迭代了k次，第k次迭代点为 且 ( ) k X ( ) k f (X ) k f X ( ) 1 1 ( ) ( 1 ) 0. , k k k k k k k f X X X p f X f X + + + 令 为了让 ， = + 需要进行以下步骤：
HHHHHHHHHHHHHHHHHHHHHHH最速下降法回顾1、确定搜索方向，选取最快的下降方向Pk = -Vf(X(k))2、确定步长取步长入为最优步长，使得f(X, + aPk) = min f(X +Apk)求出元，得到第k+1个迭代点X =X +Pk直到If(X(k))I<ε(给定的误差值），选代终止上页回下页
最速下降法回顾 1、确定搜索方向，选取最快的下降方向 2、确定步长 ( ) ( ) k p f X k = − 1 0 ( ) ( ) min ( ) 1 ( ) ( k k k k k k k k k k k k f X p f X p k X X p f X + + = + + = + 取步长 为最优步长，使得 求出 ，得到第 个迭代点 直到 给定的误差值），迭代终止