第1节基本概念 充分性: 任取x∈Rx(2)∈R,现令 X=aX0+(1-a)X(2,0<a<1 分别以X和X2为式(618)中的y,以为式(6-18)中的X,则 f(ro)2f(r)+Vf(Y)(ro-X) f(2)2f(X)+Vf()(2-X) 用a乘上面的第一式,用1-a乘上面的第二式,然后两端相加: af(X0)+(1-a)f(X2)≥ f(X)+vf(X)xLax-aX+(1-aX2)-X)] =f(Y)=f(aX+(1-a)X(2) 从而可知(X为R上的凸函数。 清华大学出版社
第1节 基本概念 (1) X R (2) X R (1) (2) X X X = + − (1 ) , 0 1 (1) X (2) X (2) X (1) X (1) T (1) (2) T (2) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) f X f X f X X X f X f X f X X X + − + − (1) (2) T (1) (2) (1) (2) ( ) (1 ) ( ) ( ) ( ) (1 )( ) ( ) ( (1 ) ) + − + − + − − = = + − f X f X f X f X X X X X f X f X X 充分性: 任取 ,现令 分别以 和 为式(6-18)中的 ,以X为式(6-18)中的 ,则 用α乘上面的第一式,用1−α乘上面的第二式,然后两端相加: 从而可知f(X)为R上的凸函数。 清华大学出版社 21
第1节基本概念 令凸函数的定义式(6-15),本质上是说凸函数上两点间的线 性插值不低于这个函数的值;而定理3则是说,基于某点 导数的线性近似不高于这个函数的值(图6-3)。 f(X")+Vf(X0)(X-X0) 0 图63 清华大学出版社
第1节 基本概念 ❖ 凸函数的定义式(6-15),本质上是说凸函数上两点间的线 性插值不低于这个函数的值;而定理3则是说,基于某点 导数的线性近似不高于这个函数的值(图6-3)。 图6-3 清华大学出版社 22
第1节基本概念 定理4(二阶条件) 设R为m维欧氏空间E上的开凸集,f1在R上具有二阶连续偏导数,则(X) 为R上的凸函数的充要条件是,fX)的海塞矩阵H(X)在R上处处半正定 清华大学出版社
第1节 基本概念 定理4 (二阶条件) 设R为n维欧氏空间En上的开凸集,f(X)在R上具有二阶连续偏导数,则f(X) 为R上的凸函数的充要条件是,f(X)的海塞矩阵H(X)在R上处处半正定。 清华大学出版社 23
第1节基本概念 证明先证必要性。 设(1为R上的凸函数,任取X∈R和Z∈E,现证2H(Cz≥0 因R为开集,故存在a,0使当a∈[a可]时,有x+aZER。由定理3可得 f(x+azf(X)+avf(x)z 再由泰勒公式 f(X+az=f(X)+avf(X)Z+aZ H(X)z+o(a) 其中 limo(a 0 a一 >0C 由以上两式得 a2zH(X)z+o(a2)≥0 2 从而 zTH(x2z+0(220令a→0 ⑩则得 zH(X)Z≥0即H(为半正定矩阵。 清华大学出版社
第1节 基本概念 T Z H X Z ( ) 0 0 − , X Z R + T f X Z f X f X Z ( ) ( ) ( ) + + T 2 T 2 1 ( ) ( ) ( ) ( ) ( ) 2 f X Z f X f X Z Z H X Z o + = + + + 2 2 0 ( ) lim 0 o → = 1 2 T 2 ( ) ( ) 0 2 Z H X Z o + 2 T 2 1 ( ) ( ) 0 2 o Z H X Z + →0 T Z H X Z ( ) 0 证明 先证必要性。 设f(X)为R上的凸函数,任取X∈R和Z∈ En,现证 因R为开集,故存在 ,使当 时,有 。由定理3可得 再由泰勒公式 其中 由以上两式得 从而 令 即H(X)为半正定矩阵。 则得 清华大学出版社 24
第1节基本概念 下面证明充分性。设对任意X∈RH(X为半正定矩阵,任取F∈R 由泰勒公式,有 f(X)=f(X)+Vf(X)(X-X)+(X-X'H(X+N(X-Y)(X-Y 其中∈(0,1) 因R为凸集, +A(X-X)∈R 再由假设知 H(X+M(X-X)) 为半正定,从而 f(x2f(X+Vf(r(X-X) 由定理3,(X为R上的凸函数 清华大学出版社
第1节 基本概念 X R H X( ) X R T T 1 ( ) ( ) ( ) ( ) ( ) ( λ( ))( ) 2 f X f X f X X X X X H X X X X X = + − + − + − − λ(0,1) X + − λ( ) X X R H X X X ( + − λ( )) T f X f X f X X X ( ) ( ) ( ) ( ) + − 下面证明充分性。设对任意 为半正定矩阵,任取 由泰勒公式,有 其中 因R为凸集, 再由假设知 为半正定,从而 由定理3,f(X) 为R上的凸函数。 清华大学出版社 25