《最优化方法（双语）》课程教学大纲 一、课程基本信息 课程代码：102193 课程名称：最优化方法（双语） 英文名称：Optimization methods 课程类别：专业课 学 时：48 学分：3 适用对象：大二、大三学生 考核方式：考试 先修课程：概率论，数理统计，线性代数 二、课程简介 本课程介绍与优化问题相关的线性规划，非线性规划等各种算法，包括：单纯形 法，最速下降法，牛顿法，拟牛顿法，共轭梯度法，以及线性规划的约束条件等内容。 This course will introduce linear programming methods,nonlinear programming methods,including:simplex method,steepest descent method,Newton's method,quasi Newton method,conjugate Gradient method etc.,which are highly related with optimization problems in practice.Theoretical analysis about optimization conditions will also be investigated in this course. 三、课程性质与教学目的 本课程是面向大二应用统计专业学生，大三数学与应用数学专业开设的专业限修 课，可作为其他专业学生的选修课。课程目的是介绍与优化问题密切相关的各种优化 算法，培养和增强学生解决实际数据分析问题的能力。 课程思政总体思路：最优化方法如今广泛应用于人工智能，运筹，物流，国防等 领域。英国1947年最早将最优化方法应用于战争中，举握了主动权。现在世界局势 纷繁复杂，如果我们能够利用最新的最优化方法，这将有助于我国在人工智能，国防 等领域抢占先机，争夺话语权。 四、教学内容及要求 第一章最优化问题分类 (一)目的与要求 1.介绍数学专业英语，不同类型的决策问题，本书的记号，最优化的问 题分类和模型，基本框架及相关基础知识 2.了解本书所要介绍的内容以及数据集
1 《最优化方法(双语)》课程教学大纲 一、课程基本信息 课程代码：102193 课程名称: 最优化方法(双语) 英文名称：Optimization methods 课程类别：专业课 学 时：48 学 分：3 适用对象: 大二、大三学生 考核方式：考试 先修课程：概率论，数理统计，线性代数 二、课程简介 本课程介绍与优化问题相关的线性规划，非线性规划等各种算法，包括：单纯形 法，最速下降法，牛顿法，拟牛顿法，共轭梯度法，以及线性规划的约束条件等内容。 This course will introduce linear programming methods, nonlinear programming methods, including: simplex method, steepest descent method,Newton’s method, quasi Newton method,conjugate Gradient method etc., which are highly related with optimization problems in practice. Theoretical analysis about optimization conditions will also be investigated in this course. 三、课程性质与教学目的 本课程是面向大二应用统计专业学生，大三数学与应用数学专业开设的专业限修 课，可作为其他专业学生的选修课。课程目的是介绍与优化问题密切相关的各种优化 算法，培养和增强学生解决实际数据分析问题的能力。 课程思政总体思路：最优化方法如今广泛应用于人工智能，运筹，物流，国防等 领域。英国 1947 年最早将最优化方法应用于战争中，掌握了主动权。现在世界局势 纷繁复杂，如果我们能够利用最新的最优化方法，这将有助于我国在人工智能，国防 等领域抢占先机，争夺话语权。 四、教学内容及要求 第一章 最优化问题分类 （一）目的与要求 1．介绍数学专业英语，不同类型的决策问题，本书的记号，最优化的问 题分类和模型，基本框架及相关基础知识 2．了解本书所要介绍的内容以及数据集
(二)教学内容 第一节数学专业英语 1.主要内容 数学专业英语的表达方式 2.基本概念和知识点 数学专业英语，最优化问题分类 3.问题与应用（能力要求） 了解数学专业英语的表达方式，优化问题分类 第二节本书内容安排 1.主要内容 介绍数学专业英语，最优化问顿分类 2.基本概念和知识点 不同分支数学的英文表达方式，优化问题的分类 3.问题与应用（能力要求） 对实践问题能够进行建模分类。 (三)思考与实践 思考最优化方法所涉及的基础预备知识。 (四)教学方法与手段 课堂讲授 第二章凸优化 (一)目的与要求 1.介绍凸优化的相关概念，凸集，闭集的定义，以及上图，方向导数等 概念 2.掌握凸集凸函数的判别方式，上图的使用方法以及计算方向导数的方 (二)教学内容 第一节最优化发展简史 1.主要内容 最优化的发展历程 2.基本概念和知识点 80年代以前的发展历程和80年代以后的发展历程 3.问题与应用（能力要求） 掌握最优化的发展历程 第二节凸集，闭集，闭包 1.主要内容 2
2 （二）教学内容 第一节 数学专业英语 1．主要内容 数学专业英语的表达方式 2．基本概念和知识点 数学专业英语，最优化问题分类 3．问题与应用（能力要求） 了解数学专业英语的表达方式，优化问题分类 第二节 本书内容安排 1．主要内容 介绍数学专业英语，最优化问题分类 2．基本概念和知识点 不同分支数学的英文表达方式，优化问题的分类 3．问题与应用（能力要求） 对实践问题能够进行建模分类。 （三）思考与实践 思考最优化方法所涉及的基础预备知识。 （四）教学方法与手段 课堂讲授 第二章 凸优化 （一）目的与要求 1. 介绍凸优化的相关概念，凸集，闭集的定义，以及上图，方向导数等 概念 2. 掌握凸集凸函数的判别方式，上图的使用方法以及计算方向导数的方 法 （二）教学内容 第一节 最优化发展简史 1.主要内容 最优化的发展历程 2.基本概念和知识点 80 年代以前的发展历程和 80 年代以后的发展历程 3.问题与应用（能力要求） 掌握最优化的发展历程 第二节 凸集，闭集，闭包 1.主要内容
凸集，凸函数的定义及判别方法，闭包的含义 2.基本概念和知识点 凸集，凸函数，闭包 3.问题与应用（能力要求） 掌握凸集、凸函数的判别方法 第三节上图，方向导数 1.主要内容 上图的含义和方向导数的定义，计算方法 2.基本概今和知识点 上图，方向导数 3.问题与应用（能力要求） 会构建上图，计算方向导数。 (三)思考与实践 上图与凸函数的关系，方向导数与导数的关系 (四)教学方法与手段 课堂讲授 第三章一维优化问题 (一)目的与要求 掌握可微，凸性 一维优化问题的最优性条件，牛顿法，搜索方法等优化 方法 (二)教学内容 第一节可微与凸性 1.主要内容 凸函数的一阶二阶判别条件，仿射包，仿射集的概念。 2.基本概念和知识点 凸函数的判别条件，仿射包 3.问题与应用（能力要求） 掌握凸函数一阶二阶判别条件 第二节最优性条件 1.主要内容 局部极值点，全局极值点，驻点，关键点，鞍点 2.本概今和知识占 极值点，驻点，鞍点 3.问题与应用（能力要求） 掌握局部极值点和全局极值点的判别方法，会判定鞍点
3 凸集，凸函数的定义及判别方法，闭包的含义 2.基本概念和知识点 凸集，凸函数，闭包 3.问题与应用（能力要求） 掌握凸集、凸函数的判别方法 第三节 上图，方向导数 1.主要内容 上图的含义和方向导数的定义，计算方法 2.基本概念和知识点 上图，方向导数 3.问题与应用（能力要求） 会构建上图，计算方向导数。 （三）思考与实践 上图与凸函数的关系，方向导数与导数的关系 （四）教学方法与手段 课堂讲授 第三章 一维优化问题 （一）目的与要求 掌握可微，凸性，一维优化问题的最优性条件，牛顿法，搜索方法等优化 方法 （二）教学内容 第一节 可微与凸性 1.主要内容 凸函数的一阶二阶判别条件，仿射包，仿射集的概念。 2.基本概念和知识点 凸函数的判别条件，仿射包。 3.问题与应用（能力要求） 掌握凸函数一阶二阶判别条件 第二节 最优性条件 1.主要内容 局部极值点，全局极值点，驻点，关键点，鞍点 2.基本概念和知识点 极值点，驻点，鞍点 3.问题与应用（能力要求） 掌握局部极值点和全局极值点的判别方法，会判定鞍点
第三节牛顿法 1.主要内容 牛顿法的原理和计算步骤 2.基本概念和知识点 牛顿法的一阶迭代公式和二阶迭代公式 3.问题与应用（能力要求） 掌握牛顿法的计算步骤，优缺点。 第四节搜索方法 1.主要内容 搜索问题模型，单峰函数，黄金分割法，Fibonacci法，抛物线内插 2.基本概念和知识点 黄金分割法，Fibonacci法 3.问题与应用（能力要求） 掌握黄金分割法，Fibonacci法的计算步骤和异同。 (三)思考与实践 思考黄金分割法，Fibonacci法的先决条件和收敛速率。 (四)教学方法与手段 课堂讲授 第四章线性规划 (一)目的与要求 理解和掌握原问题和对偶问题的关系，掌握常见的单纯性方法：两阶段法， 大M法，线性规划的最优性条件，会进行灵敏度分析 (二)教学内容 第一节原问题与对偶问题 1.主要内容 介绍原问题和对偶问题两者之间的关系，原问题和对偶问题的对应关系 2.基本概念和知识点 原问题，对偶问题 3.问题与应用（能力要求） 能够写出原问题的对偶问题，掌握对偶问题的约束条件与原问题的相应 约束之间的关系。 第二节单纯形法 1.主要内容 介绍松弛变量和人工变量的作用，介绍解决线性规划问题的两阶段法， 4
4 第三节 牛顿法 1.主要内容 牛顿法的原理和计算步骤 2.基本概念和知识点 牛顿法的一阶迭代公式和二阶迭代公式 3.问题与应用（能力要求） 掌握牛顿法的计算步骤，优缺点。 第四节 搜索方法 1.主要内容 搜索问题模型，单峰函数，黄金分割法，Fibonacci 法，抛物线内插 法 2.基本概念和知识点 黄金分割法，Fibonacci 法 3.问题与应用（能力要求） 掌握黄金分割法，Fibonacci 法的计算步骤和异同。 （三）思考与实践 思考黄金分割法，Fibonacci 法的先决条件和收敛速率。 （四）教学方法与手段 课堂讲授 第四章 线性规划 （一）目的与要求 理解和掌握原问题和对偶问题的关系，掌握常见的单纯性方法：两阶段法， 大 M 法，线性规划的最优性条件，会进行灵敏度分析 （二）教学内容 第一节 原问题与对偶问题 1.主要内容 介绍原问题和对偶问题两者之间的关系，原问题和对偶问题的对应关系 2.基本概念和知识点 原问题，对偶问题 3.问题与应用（能力要求） 能够写出原问题的对偶问题，掌握对偶问题的约束条件与原问题的相应 约束之间的关系。 第二节 单纯形法 1.主要内容 介绍松弛变量和人工变量的作用，介绍解决线性规划问题的两阶段法
大M法 2.基本概念和知识点 进基变量，离基变量，两阶段法，大M法，人工变量，松弛变量 3.问题与应用（能力要求） 明白单纯形法的求解思路，掌握线性规划问题的求解方法：两阶段法， 大M法，会通过引入松弛变量和人工变量来转化原问题，并采用相应的方 法求解 第三节最优性条件 1.主要内容 KKT条件，互补松弛条件 2.基本概念和知识点 KKT点 3.问题与应用（能力要求） 掌握如何运用互补松弛条件，会判定驻点是否是KKT点 第四节灵敏度分析 1.主要内容 灵敏度分析涉及的五大领域 2.基本概念和知识点 技术系数 3.问题与应用（能力要求） 当改变系数矩阵A,右端向量b,目标函数系数c,增加额外约束，增 加新的变量时，能够通过原优化解来求解新问题的解。 (三)思考与实践 思考进基变量和离基变量对应的几何意义，KT条件，互补松弛条件。 (四)教学方法与手段 课堂讲授 第五章无约束优化问题 (一)目的与要求 介绍无约束优化问题的最优性条件，最速下降法，牛顿法，阻尼牛顿法， 直线搜索，拟牛顿法，共轭梯度法，最小二乘法等方法 (二)教学内容 第一节最优性条件 1.主要内容 极值点，最值点的判别方法 2.基本概念和知识点
5 大 M 法 2.基本概念和知识点 进基变量，离基变量，两阶段法，大 M 法，人工变量，松弛变量 3.问题与应用（能力要求） 明白单纯形法的求解思路，掌握线性规划问题的求解方法：两阶段法， 大 M 法，会通过引入松弛变量和人工变量来转化原问题，并采用相应的方 法求解。 第三节 最优性条件 1.主要内容 KKT 条件，互补松弛条件 2.基本概念和知识点 KKT 点 3.问题与应用（能力要求） 掌握如何运用互补松弛条件，会判定驻点是否是 KKT 点 第四节 灵敏度分析 1.主要内容 灵敏度分析涉及的五大领域 2.基本概念和知识点 技术系数 3.问题与应用（能力要求） 当改变系数矩阵 A，右端向量 b，目标函数系数 c，增加额外约束，增 加新的变量时，能够通过原优化解来求解新问题的解。 （三）思考与实践 思考进基变量和离基变量对应的几何意义，KKT 条件，互补松弛条件。 （四）教学方法与手段 课堂讲授 第五章 无约束优化问题 （一）目的与要求 介绍无约束优化问题的最优性条件，最速下降法，牛顿法，阻尼牛顿法， 直线搜索，拟牛顿法，共轭梯度法，最小二乘法等方法 （二）教学内容 第一节 最优性条件 1.主要内容 极值点，最值点的判别方法 2.基本概念和知识点