一般来说,目标函数的稳定点不一定是极小点但对于目标函数是凸函数的无约束优化问题稳定点局部极小点=全局极小点定理4(凸函数取得极值的充要条件)设f(x)是一阶连续可微的凸函数,则x*是min f(x的全局极小点的充要条件是Vf(x*)=02025/10/7工程优化方法及其应用6/26
工程优化方法及其应用 2025/10/7 6/26 一般来说,目标函数的稳定点不一定是极小点, 但对于目标函数是凸函数的无约束优化问题: 稳定点=局部极小点=全局极小点 定理4(凸函数取得极值的充要条件) * * ( ) min ( ) ( ) 0. f x x f x = f x 设 是一阶连续可微的凸函数, 则 是 的全局极小点的充要条件是
例1讨论下列函数是否存在极值。f(X)=-5x2 -6x22 - 4x3i + 4xix2 +4xx3解:令 Vf(X)=求得驻点o0a0X =(x1,x2,x) =(0,0,0)驻点处的Hessian矩阵为(-10440V2 f (0, 0, 0) =4-120-84由于Hessian矩阵负定,故点X=(0,0,O)为极大点,对应的极大值为f(0,0,0)=0。2025/10/7工程优化方法及其应用7/26
工程优化方法及其应用 2025/10/7 7/26 例1 讨论下列函数是否存在极值。 2 2 2 1 2 3 1 2 1 3 f X x x x x x x x ( ) 5 6 4 4 4 = − − − + + 解: 令 = f X( ) 0 求得驻点 ( 1 2 3 , , 0, 0, 0 ) ( ) T T X x x x = = 驻点处的Hessian矩阵为 ( ) 2 10 4 4 0, 0, 0 4 12 0 4 0 8 f − = − − 由于Hessian矩阵负定,故点 (0, 0, 0)T X = 为极大点, 对应的极大值为 f (0, 0, 0) 0 =
3.等式约束问题的一阶最优性条件11i011o对于等式约束的极值问题iooao100125000min f(x)(3.2)s.t. h(x)= 0,i=1,2,...m可以用拉格朗日乘数法求解。即引入拉格朗日函数L(x, a)= f(x)+aTh(x) = f(x)+)+Za,h(x)i-1其中 h(x)=(h(x),h(x),...,hm(x),a=(a, 2, ..., am)T2, 称为对应于h(x)的拉格朗日乘子。2025/10/7工程优化方法及其应用8/26
工程优化方法及其应用 2025/10/7 8/26 3. 等式约束问题的一阶最优性条件 对于等式约束的极值问题 min ( ) . . ( ) 0, 1, 2, i f x s t h x i m = = 可以用拉格朗日乘数法求解。即引入拉格朗日函数 L x f x h x ( , ( ) ( ) ) = + 1 ( ) ( ) m i i i f x h x = = + 其中 1 2 1 2 ( ) ( ( ), ( ), , ( )) , ( , , m h x h x h x h x = = , ) , m i 称为对应于 ( ) i h x 的拉格朗日乘子。 (3.2)
定理5(一阶必要条件)(3.2)的局部极小点,f(x)设x是等式约束问题和h,(x)(i=1,,m)在x*的某邻域内连续可微若向量组Vh,(x")(i=1,·,m)线性无关,则存在乘子向量"=(",,"),使得V,L(x*,a*)= 0即Vf(x*)+Za"Vh,(x*) = 0.i-1定理5表明:等式约束极值问题可转化为求满足条件mZa,Vh,(x) = 0Vf(x)+的x*和*。i=1h(x)=0,i=1,2,:::,m2025/10/7工程优化方法及其应用9/26
工程优化方法及其应用 2025/10/7 9/26 定理5(一阶必要条件) ( ) ( ) 0. ( , ) 0 ( , , ) ( )( 1, , ) ( )( 1, , ) . 3.2 ( ) * 1 * * * * * * T 1 * * * * + = = = = = = f x h x L x h x i m h x i m x x f x i m i x m i i 即 量 ,使得 量 组 线性无关,则存在乘子向 和 在 的某邻域内连续可微若 向 设 是等式约束问题( )的局部极小点, 定理5表明:等式约束极值问题可转化为求满足条件 1 ( ) ( ) 0 ( ) 0, 1, 2, , m i i i i f x h x h x i m = + = = = 的 x 和