第五章无约束最优化 54共轭梯度法 共轭梯度法的方向:(续) 使+1与1),dF2,…,d都共物: d(k+DIG do=0 1,2,…,k ⑤ Gram-schmidi过程:i,j=1,2,…,k 记0=1)-%x0=G+0)=acm… 根据式,有d0ry0=a1dTGd0=0,说…② 根据④,⑨,回有 dktbryo=a d( d0=0,j=1, 2,... k 6y0=Vf(x6+)y0+2Bady)←除=j外均为0 (x+)y0+B(ad0)y()=0 这里的j应为
第五章 无约束最优化 5.4 共轭梯度法 一、共轭梯度法的方向:(续) 使d (k+1)与d (1),d(2), …,d(k)都共轭: d (k+1) TG d(j) =0 , j= 1,2, …,k ……⑤ Gram-Schmidt过程: i, j= 1,2, …,k 记 y (j)= ▽f(x(j+1)) -▽f(x(j)) =G(x(j+1) -x (j))=αjGd(j) …….⑥ 根据⑥式,有 d (i)T y (j) = αj d (i)T G d(j)=0 , i≠j ……⑦ 根据④,⑤,⑥有 d (k+1) T y (j) = αj d (k+1)T G d(j)=0 , j= 1,2, …,k ……⑧ ( ) 0 ( ) 0 ( 1) ( ) ( ) ( ) ( ) 1 ( 1) ( ) ( 1) ( ) ( ) ( ) ( ) = − + = = − + = + = + + j T k j j T k j k j j T k j j j T k j T k f x y d y d y f x y d y i j 除 外均为 ⑧′ 这里的j应为i
第五章无约束最优化 54共轭梯度法 共轭梯度法的方向:(续) Vjk,i有Vx+l)rr0=0 由⑥式 (Vf(x+)+∑y)d0(3)式(7)式0 由⑨式 Vflxltb) vfb)=o v i<isk (B国式V(x0)=-d0+∑Ba) 根据⑧及回得 1,2,…,k-1 V(x+)/x0+0)-Vf10)+B1ry=0
第五章 无约束最优化 5.4 共轭梯度法 一、共轭梯度法的方向:(续) j≤k, i<j 有 ▽f(x(j+1)) T d (i)=0 ……⑨ 由⑥式 由⑨式 ▽f(x(j+1)) T ▽f(x(i))=0 i<j≤k …… ⑩ (由④式 ) 根据⑧及⑥得: j=1,2, …,k-1 - ▽f(x(k+1)) T [▽f(x(j+1))- ▽ f(x(j))]+βj (k) d (j)T y (j)=0 ( ( ) ) (3) 7 0 1 ( 1) ( ) ( ) 式( )式 = + + + j l i i l i f x y d − = = − + 1 1 ( ) ( ) ( ) ( ) ( ) i h i h h i i f x d d