第四章无约束优化方法 54-1最速下降法(梯度法) 54-2牛顿类方法 54-3变尺度法 54-4共轭方向法 54-5鲍威尔方法 54-6其它方法(如坐标轮换法、单纯形法)
第四章 无约束优化方法 §4-1 最速下降法（梯度法） §4-2 牛顿类方法 §4-3 变尺度法 §4-4 共轭方向法 §4-5 鲍威尔方法 §4-6 其它方法（如坐标轮换法、单纯形法）
第1章所列举的机械优化设计问题,都是在一定的 限制条件下追求某一指标为最小,它们都属于约束优 化问题。工程问题大都如此。 为什么要研究无约束优化问题? (1)有些实际问题,其数学模型本身就是一个无约束 优化问题。 (2)通过熟悉它的解法可以为研究约束优化问题打下 良好的基础。 (3)约束优化问题的求解可以通过一系列无约束优化 方法来达到。所以无约束优化问题的解法是优化设计 方法的基本组成部分,也是优化方法的基础
第1章所列举的机械优化设计问题，都是在一定的 限制条件下追求某一指标为最小，它们都属于约束优 化问题。工程问题大都如此。 为什么要研究无约束优化问题? （1）有些实际问题，其数学模型本身就是一个无约束 优化问题。 （2）通过熟悉它的解法可以为研究约束优化问题打下 良好的基础。 （3）约束优化问题的求解可以通过一系列无约束优化 方法来达到。所以无约束优化问题的解法是优化设计 方法的基本组成部分，也是优化方法的基础
(4)对于多维无约束问题来说,古典极值理论中令 阶导数为零,但要求二阶可微,且要判断海赛矩 阵为正定才能求得极小点,这种方法有理论意义, 但无实用价值。和一维问题一样,若多元函数F(X) 不可微,亦无法求解。但古典极值理论是无约束优 化方法发展的基础
（4）对于多维无约束问题来说，古典极值理论中令 一阶导数为零，但要求二阶可微，且要判断海赛矩 阵为正定才能求得极小点，这种方法有理论意义， 但无实用价值。和一维问题一样，若多元函数F(X) 不可微，亦无法求解。但古典极值理论是无约束优 化方法发展的基础
无约束优化问题是: 求n维设计变量x=[x1x2…xn 使目标函数f(x)→min min t(r )x∈R 目前已研究出很多种无约束优化方法,它们的 主要不同点在于构造搜索方向上的差别。 (1)间接法要使用导数,如梯度法、(阻尼) 牛顿法、变尺度法、共轭梯度法等。 (2)直接法不使用导数信息,如坐标轮换法、 鲍威尔法、单纯形法等
目前已研究出很多种无约束优化方法，它们的 主要不同点在于构造搜索方向上的差别。 min ( ) n f R x x （1）间接法——要使用导数，如梯度法、（阻尼） 牛顿法、变尺度法、共轭梯度法等。 （2）直接法——不使用导数信息，如坐标轮换法、 鲍威尔法、单纯形法等。 无约束优化问题是： 1 2 [ ]T n 求n维设计变量 x = x x x 使目标函数 f ( ) min x →
用直接法寻找极小点时,不必求函数的导数,只要计 算目标函数值。这类方法较适用于解决变量个数较少的 (n≤20)问题,一般情况下比间接法效率低。间接法除 要计算目标函数值外,还要计算目标函数的梯度,有的 还要计算其海赛矩阵 x=x+as(k=0,1,2,…) 搜索方向的构成问题乃是无约束优化方法的关键
1 ( 0,1,2, ) k k k k s k + x x = + = 搜索方向的构成问题乃是无约束优化方法的关键。 用直接法寻找极小点时，不必求函数的导数，只要计 算目标函数值。这类方法较适用于解决变量个数较少的 （n ≤20）问题，一般情况下比间接法效率低。间接法除 要计算目标函数值外，还要计算目标函数的梯度，有的 还要计算其海赛矩阵