最优化问题的基本术语ib0o注意：ooa10(1)全局最优解一定是局部最优解；(2)局部最优解不一定是整体最优解，11严格l.opt.严格g.opt..opt.6/58
6/58 (2)局部最优解不一定是整体最优解。 (1)全局最优解一定是局部最优解； 注意： 严格l .opt . 严格g .opt . l .opt . 最优化问题的基本术语
最优化问题的基本术语GlobalOptimumv.s.LocalOptimumFind1=D2263.10258O7158
7/58 Global Optimum v.s. Local Optimum 最优化问题的基本术语
最优化问题的基本术语ib0o10012500023080iooao求解最优化问题，实际上是求可行域S上的全局最优解。1但是，在一般情况下，-整体最优解是很难求出的，最优化中的大多数方法是求局部最优解8/58
8/58 求解最优化问题，实际上是求可行域 S上的全局最优解。但是，在一般情况下， 整体最优解是很难求出的，最优化中的大多 数方法是求局部最优解。 最优化问题的基本术语
最优化问题的基本术语iobdio迭代算法（IterativeAlgorithm）00喜保选取一个初始可行点xoES，由这个初始可行点出发，依次产生一个可行点列：x1,x2，，Xk，记为(xk)，使得xk恰好是问题的一个最优解，或者该点列(xk收敛到问题的一个最优解。下降算法（DescentAlgorithm在迭代算法中一般要求：f(x+1)≤ f(xk)9/58
9/58 迭代算法（Iterative Algorithm） 在迭代算法中一般要求： ( ) ( ) k k f x f x +1 下降算法（Descent Algorithm） 选取一个初始可行点𝒙𝟎 ∈ 𝑺，由这个初始可行点 出发，依次产生一个可行点列：𝒙𝟏, 𝒙𝟐, ⋯ , 𝒙𝒌, ⋯, 记为{𝒙𝒌}，使得𝒙𝒌恰好是问题的一个最优解，或 者该点列{𝒙𝒌}收敛到问题的一个最优解。 最优化问题的基本术语
最优化问题的基本术语lioboio下降方向（DescentDirection）10011ooann在点xk处,对于方向Pk≠0,若存在实数α>0,使得任意的α (o,α),有f(x + apk)< f(xk)成立，则称p为函数f(x）在点x的一个下降方向10/58
10/58 在点xk处， 0, 对于方向 pk 若存在实数 0, 使得任意的 (0, ),有 ( ) ( ) k k xk f x + p f 成立， 则 称pk为函数f ( x)在 点xk的一个 下降方向。 下降方向（Descent Direction） 最优化问题的基本术语