对迭代格式 x(k+1)=x(k)+arp(k), (k=0,1,…) 关键是要确定搜索方向pk)和搜索步长ak (1)确定搜索方向p) 最速下降法：pk)取为模函数o()减少最快的方向， 即：p(c)的负梯度方向-grad(p(c), 共轭斜量法：取A-共轭方向pk)。 (2)确定搜索步长a 确定使得从k步到k+1步是最优的，即： (x)=(xap)=minp(x(+ap) 这称为沿P方向的一维极小搜索。p(xk+)是局部极小。 11
11 ( 1) ( ) ( ) ( ) , ( 0,1, ...) k k k k k k x x p k 对迭代格式 关键是要确定搜索方向p 和搜索步长 。 ( ) ( ) ( ) k k k x x x （1）确定搜索方向p 最速下降法：p 取为模函数 ( )减少最快的方向， 即: ( )的负梯度方向- grad( ( )). 共轭斜量法：取A - 共轭方向p 。 ( 1) ( ) ( ) ( ) ( ) ( ) ( 1) ( ) ( ) min ( ) ( ) k k k k k k k k k k x x p x p x （2）确定搜索步长 确定 使得从k步到k+1步是最优的，即： 这称为沿p 方向的一维极小搜索。 是局部极小
对确定的搜索方向p,构造一个a的函数 F(a)=(x)=p(x+ap) (+a)x+p)-(bx+p) 4,x)-(6,x+a,p4)-a.py +g(Ap,p) -xW)+a(dx-b.p)+(Ap),p) =p(x)-ac,p)+g(Ap,p) 令F'(a)=0,即：-(r,p)+a(Ap,p《)=0 12
12 ( ) ( 1) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 1 ( ( ), ) ( , ) 2 k k k k k k k k k k p F x x p A x p x p b x p 对确定的搜索方向 ，构造一个 的函数 ( ) ( ) ( ) ( ) ( ) ( ) 2 ( ) ( ) 1 ( , ) ( , ) ( , ) ( , ) 2 ( , ) 2 k k k k k k k k Ax x b x Ax p b p Ap p ( ) ( ) ( ) ( ) '( ) 0, ( , ) ( , ) 0 k k k k 令F 即： r p Ap p 2 ( ) ( ) ( ) ( ) ( ) ( ) ( , ) ( , ) 2 k k k k k x Ax b p Ap p 2 ( ) ( ) ( ) ( ) ( ) ( ) ( , ) ( , ) 2 k k k k k x r p Ap p