983 无约束极值问题 王页下页返
无约束极值问题
无约束极值问题 983 无约束极值问题可简单表述为: minf(X),X∈Rn(n维欧氏空间) xkh=x+且满足 fx网 这样逐步迭代直至满足精度条件 VfX+e1(梯度绝对值<E1) 王页下页返
无约束极值问题 无约束极值问题可简单表述为: min f(X),XRn (n维欧氏空间) X(k+1)=X(k)+p (k) 且满足 f [X(k+1) ]< f [X(k) ] 这样逐步迭代直至满足精度条件 ‖▽f [X(k+1) ]‖< 1 (梯度绝对值< 1 )
无约束最优化方法 983 无约束极值问题的求解方法通常称为无约束最优化方法 et(unconstrained optimization method) >如何选择搜索方向是无约束最优化方法的核心,且不同的 ·搜索方向形成不同的最优化方法。 >无约束极值的求解方法包括: 最速下降法 ·牛顿法 共轭梯度法 变尺度法 王页下页返
无约束最优化方法 ➢ 无约束极值问题的求解方法通常称为无约束最优化方法 (unconstrained optimization method) ➢ 如何选择搜索方向是无约束最优化方法的核心,且不同的 搜索方向形成不同的最优化方法。 ➢ 无约束极值的求解方法包括: • 最速下降法 • 牛顿法 • 共轭梯度法 • 变尺度法
王最速下降法回顾 983 对于无约束最优化问题: minf(x), X=(x,x2,.,x)T 假设已经选代了k次,第k次迭代点为x 且v(X)≠0 午 令X=X+D为了(x)/(x 需要进行以下步骤: 王页下页返
最速下降法回顾 对于无约束最优化问题: min{ f (X)}, X = (x1 , x2 , …, xn ) T 假设已经迭代了k次,第k次迭代点为 且 ( ) k X ( ) k f (X ) k f X ( ) 1 1 ( ) ( 1 ) 0. , k k k k k k k f X X X p f X f X + + + 令 为了让 , = + 需要进行以下步骤:
最速下降法回顾 983 1、确定搜索方向,选取最快的下降方向 Pk=-Vf(XR) 2、确定步长 取步长λ为最优步长,使得 f(Xk+apk)=minf(X+ap,) ≥0 求出λ,得到第k+1个迭代点 X=X+npk 直到Vf(X)<s(给定的误差值),迭代终止 王页下页返
最速下降法回顾 1、确定搜索方向,选取最快的下降方向 2、确定步长 ( ) ( ) k p f X k = − 1 0 ( ) ( ) min ( ) 1 ( ) ( k k k k k k k k k k k k f X p f X p k X X p f X + + = + + = + 取步长 为最优步长,使得 求出 ,得到第 个迭代点 直到 给定的误差值),迭代终止