信赖域方法
信赖域方法
信赖域方法 信赖域方法是求解最优化问题的另-类有效 方法其最初的设计思想可追溯至 Levenberg Marq粗对 Gauss- Newton法的修 线搜索方法是把一个复杂的最优化问题转化 成一系列简单的一维寻优问题狺赖域方法是把 最优化问题转化为一系列相对简单的局部寻优 问题
信赖域方法 信赖域方法是求解最优化问题的另一类有效 方法.其最初的设计思想可追溯至Levenberg Marquart 和 对Gauss-Newton法的修 正.线搜索方法是把一个复杂的最优化问题转化 成一系列简单的一维寻优问题.信赖域方法是把 最优化问题转化为一系列相对简单的局部寻优 问题.
基本思想 牛顿法的基本思想是在迭代点x附近用二次 函数逼近/x(S)=+8S sGs并以g()的 的极小点修正x得到k1=x+s 以上方法只能保证算法的局部收敛性,为了建 立总体收敛性算法,我们采用了线搜索技术虽然 这种策略是成功的但它有一个缺点,即没有进一 步利用二次模型
基本思想 牛顿法的基本思想是在迭代点 k x 附近用二次 函数逼近 ( ) ( ) , 2 1 f x q s f g s s G sk T T k = k + k + 并以 q (s) k 的 的极小点 k s 修正 , k x 得到: . k 1 k k x = x + s + 以上方法只能保证算法的局部收敛性,为了建 立总体收敛性算法,我们采用了线搜索技术.虽然 这种策略是成功的,但它有一个缺点,即没有进一 步利用二次模型.
基本思想 牛顿法的基本思想是在迭代点x附近用二次 函数逼近/x(S)=+8S sGs并以g()的 的极小点修正x得到k1=x+s 以上方法只能保证算法的局部收敛性,为了建 立总体收敛性算法,我们采用了线搜索技术虽然 这种策略是成功的但它有一个缺点,即没有进一 步利用二次模型.信赖域方法是另一种新的保证 算法总体收敛的方法
基本思想 牛顿法的基本思想是在迭代点 k x 附近用二次 函数逼近 ( ) ( ) , 2 1 f x q s f g s s G sk T T k = k + k + 并以 q (s) k 的 的极小点 k s 修正 , k x 得到: . k 1 k k x = x + s + 以上方法只能保证算法的局部收敛性,为了建 立总体收敛性算法,我们采用了线搜索技术.虽然 这种策略是成功的,但它有一个缺点,即没有进一 步利用二次模型.信赖域方法是另一种新的保证 算法总体收敛的方法.
信赖域方法的模型子问题 min q s)=f+g S+SBS (1) s t s‖≤△ k 其中=x-x28k=V(x)B是 Hesse v2f(x)的近似 △>0为信赖域半径阵
信赖域方法的模型子问题 ( ) (1) 2 1 min q s f g s s B sk T T k = k + k + k s.t s 其中 , ( ), k k k s = x − x g = f x Bk 是Hesse 阵 ( ) k f x 2 的近似 0 k 为信赖域半径.