设其最优解为αk(叫精确步长因子), 于是得到一个新点 k+l-xk+aid' 所以线性搜索是求解一元函数o(a 的最优化问题(也叫维最优化问题或 维搜索)。 一般地,一维优化问题可描述为 mnf(x)或解∫(x)0(asx≤b asxsb
设其最优解为 k (叫精确步长因子), k k 1 k k x x d + = + 所以线性搜索是求解一元函数 () 的最优化问题(也叫一维最优化问题或 一般地,一维优化问题可描述为: 于是得到一个新点: f (x) axb min 一维搜索)。 或解 f x a x b ( ) =0 ( )
般地,线性搜索算法分成两个阶段 第一阶段确定包含理想的步长因子 (或问题最优解)的搜索区间; 第二阶段采用某种分割技术或插值 方法缩小这个区间
一般地,线性搜索算法分成两个阶段: 第一阶段确定包含理想的步长因子 (或问题最优解)的搜索区间; 第二阶段采用某种分割技术或插值 方法缩小这个区间
我们主要介绍如下一些搜索方法: 搜索区间的确定 黄金分割法(.618法) 二次插值法 Newton法 要点:单峰函数的消去性质、进退算法基本思想、黄金分割 法基本思想、重新开始、二次插值法要求、极小化框架 Newton法基本思想、方法比较
• 搜索区间的确定 • 黄金分割法(0.618法) • 二次插值法 • Newton法 要点:单峰函数的消去性质、进退算法基本思想、黄金分割 法基本思想、重新开始、二次插值法要求、极小化框架、 Newton法基本思想、方法比较。 我们主要介绍如下一些搜索方法:
学习的重要性: 1、工程实践中有时需要直接使用; 2、多变量最优化的基础,迭代中经常要用到。 方法分类: 1、直接法:迭代过程中只需要计算函数值; 2、微分法:迭代过程中还需要计算目标函数的导数;
学习的重要性: 1、工程实践中有时需要直接使用; 2、多变量最优化的基础,迭代中经常要用到。 方法分类: 1、直接法:迭代过程中只需要计算函数值; 2、微分法:迭代过程中还需要计算目标函数的导数;
§3,2搜索区间的确定 常用的一维直接法有消去法和近似法两类。它们都是从 某个初始搜索区间出发,利用单峰函数的消去性质,逐步缩 小搜索区间,直到满足精度要求为止。 §31单峰函数 定义:如果函数(x)在区间|a,b上只有一个极值点,则称fx)为 a,b上的单峰函数。 f(x) f( 连续单峰函数 非单峰函数
f(x) a b x §3.2 搜索区间的确定 常用的一维直接法有消去法和近似法两类。它们都是从 某个初始搜索区间出发,利用单峰函数的消去性质,逐步缩 小搜索区间,直到满足精度要求为止。 §3.2.1 单峰函数 连续单峰函数 f(x) a b x 不连续单峰函数 f(x) x a b 离散单峰函数 f(x) a b x 非单峰函数 定义:如果函数f(x)在区间[a,b]上只有一个极值点, 则称f(x)为 [a, b]上的单峰函数