维最优化 维最优化问题 2.黄金分割法 3.进退法 4.抛物线搜索法 5.三次插值法
一 维 最 优 化 2. 黄金分割法 3. 进退法 4. 抛物线搜索法 5. 三次插值法 1. 一维最优化问题
维最优化问题 下降迭代算法中最优步长的确定 f(xx+2d)=min∫(x+M) k 维最优化问题:minf(x) st.x∈R 极值点的必要条件:f(x)=0
一. 一维最优化问题 下降迭代算法中最优步长的确定 ( ) min ( ) k k k k k f x d f x d + = + k . x k d . k 一维最优化问题： min f (x) s.t. x R 极值点的必要条件： f '(x) = 0
黄金分割法(0.618法) 1.单峰函数 定义:设f(x)是区间[a,b上的一元函数,x是f(x)在a,b 上的极小点,且对任意的x1,x2∈a,b,x1<x2,有 (a)当x,≤x时,∫(x1)>f(x2); b)当x≥x时,f(x1)<f(x2) 则称f(x)是单峰函数。 12
二. 黄金分割法（0.618法） 1. 单峰函数 定义：设 f (x) 是区间 [a,b] 上的一元函数， x 是 f (x) 在 [a,b] 上的极小点，且对任意的 , [ , ], , x1 x2 a b x1 x2 有 （a）当 x2 x 时， ( ) ( ); 1 x2 f x f （b）当 x1 x 时， ( ) ( ). 1 x2 f x f a . . b . x . . 1 x 2 x 则称 是单峰函数。 f (x) .
性质:通过计算区间[a,b内两个不同点的函数值,就可以 确定一个包含极小点的子区间。 定理设f(x)是区间|a,b上的一元函数,x是f(x)在[a,b 上的极小点。任取点c<d∈a,b,则有 (1)如果f(c)>f(d,则x∈[c,b]; (2)如果∫(c)≤f(d),则x∈[a,dl。 d b
性质：通过计算区间 [a,b] 内两个不同点的函数值，就可以 确定一个包含极小点的子区间。 定理 设 是区间 [a,b] 上的一元函数， x 是 f (x) 在 [a,b] 上的极小点。任取点 f (x) cd [a,b], 则有 （1）如果 f (c) f (d) ，则 x[c ,b]; （2）如果 f (c) f (d), 则 x[a,d ]。 a . . b . x . . c d
2.黄金分割法 思想通过选取试探点使包含极小点的区间不断缩短, 直到区间长度小到一定程度,此时区间上各点的函数 值均接近极小值。 下面推导黄金分割法的计算公式。 设∫(x)在{a1,b1上单峰,极小点x∈{a1,b1l假设进行 第k次迭代前x∈Ia,b,取λ,Hk∈Ia,b,规定λ<p, 计算∫(4)和∫(4),分两种情况: 1.若f(x)>f(),则令a1=A1,b1=b2; 2若f()≤f(4k),则令a1=an,b1=4 如何确定λ4与12
2. 黄金分割法 思想 通过选取试探点使包含极小点的区间不断缩短， 直到区间长度小到一定程度，此时区间上各点的函数 值均接近极小值。 下面推导黄金分割法的计算公式。 设 f (x) 在[a1 ,b1 ]上单峰， [ , ]. 极小点 x a1 b1 假设进行 第 k 次迭代前 [ , ], x ak bk , [ , ], 取 k k ak bk 规定 . k k ( ) ( ) , k k 计算 f 和 f 分两种情况： 1. ( ) ( ) , k k 若 f f , 则令 ak+1 = k ; bk+1 = bk 2. ( ) ( ) , k k 若 f f , 则令 ak+1 = ak . bk+1 = k 如何确定k 与 k？