《机器学习》大纲一、课程名称：机器学习二、课程性质：选修、理论+实践课三、学时与学分：40学时（理论学时：28，实验学时：12），2.5学分：四、课程先导课：线性代数（或矩阵论），概率论与数理统计，微积分，C语言程序设计（或Python语言设计），算法设计与分析五、课程介绍“机器学习”是一门理论性、技术性和实践性很强的专业选修课程，为计算机科学中人工智能相关课程的核心和基础。课程主要讲授机器学习的基础理论、概念和方法，主要内容包括：监督学习、无监督学习的简介，k近邻和k-means、感知机、贝叶斯与概率估计、朴素贝叶斯法、逻辑回归、梯度下降、线性回归、支持同量机、经验风险最小化、方差与偏差估计、核方法、高斯过程、KD树和决策树、集成方法等。目标让学生掌握机器学习的基本理论与算法，为进一步学习人工智能相关课程和从事相关科研与实践打下坚实的基础。六、课程目标《机器学习》的具体目标包括：目标1：掌握机器学习的基本思想原理、流行算法和技术。为毕业要求1提供支持。目标2：使学生理解概率论、统计、算法等基础交叉学科知识和思想在计算机相关问题的建模发挥的作用，理解相关模型的思想本质，学生对机器学习领域的研究对象、研究目标和研究方法有全局性的了解：为毕业要求1提供支持。目标3：能认识到计算机科学与技术、人工智能科学与技术日新月异的发展特点，以机器学习相关学习任务为例，使学生认同自主学习和终身学习的必要性。为毕业要求12提供支持。目标4：通过习题讨论、实验和课程设计，使学生巩固理论思想和知识，培养学生分析模型、动手实现机器学习中不同任务和应用，以及解决科研与实际问题的能力。这需要通过不断学习掌握新技术和新方法才能做，从而锻炼自主学习的能力。为毕业要求12提供支持
《机器学习》大纲 一、课程名称：机器学习 二、课程性质：选修、理论+实践课 三、学时与学分：40 学时（理论学时：28，实验学时：12）， 2.5 学分： 四、课程先导课： 线性代数（或矩阵论），概率论与数理统计，微积分，Ｃ语言程序设计（或 Python 语言设计），算法设计与分析 五、课程介绍 “机器学习”是一门理论性、技术性和实践性很强的专业选修课程，为计算 机科学中人工智能相关课程的核心和基础。课程主要讲授机器学习的基础理论、 概念和方法，主要内容包括: 监督学习、无监督学习的简介，k 近邻和 k-means、 感知机、贝叶斯与概率估计、朴素贝叶斯法、逻辑回归、梯度下降、线性回归、 支持向量机、经验风险最小化、方差与偏差估计、核方法、高斯过程、KD 树和 决策树、集成方法等。目标让学生掌握机器学习的基本理论与算法，为进一步学 习人工智能相关课程和从事相关科研与实践打下坚实的基础。 六、课程目标 《机器学习》的具体目标包括： 目标 1:掌握机器学习的基本思想原理、流行算法和技术。为毕业要求 1 提 供支持。 目标 2: 使学生理解概率论、统计、算法等基础交叉学科知识和思想在计算 机相关问题的建模发挥的作用，理解相关模型的思想本质，学生对机器学习领域 的研究对象、研究目标和研究方法有全局性的了解；为毕业要求 1 提供支持。 目标 3: 能认识到计算机科学与技术、人工智能科学与技术日新月异的发展 特点，以机器学习相关学习任务为例，使学生认同自主学习和终身学习的必要性。 为毕业要求 12 提供支持。 目标 4：通过习题讨论、实验和课程设计，使学生巩固理论思想和知识，培 养学生分析模型、动手实现机器学习中不同任务和应用，以及解决科研与实际问 题的能力。这需要通过不断学习掌握新技术和新方法才能做，从而锻炼自主学习 的能力。为毕业要求 12 提供支持
七、课程目标对毕业要求的支撑关系支撑的毕业要求二级指标点课程目标目标1-21.1能将数学、自然科学和信息科学的语言工具用于计算机复杂工程问题的表述。1.2能针对计算机复杂工程问题的具体对象进行建模和求解。目标1-212.1能认识到计算机技术日新月异的发展特点，认同自主学习和终身学习目标3的必要性12.2具备自主学习能力，能通过多种途径拓展自己的知识和能力，包括理目标4解能力，归纳总结的能力和提出问题的能力等八，教学设计及对课程目标的支持第一章引言本章主要知识点包括机器学习概述，发展历史，机器学习算法的主要类型。包括机器学习是什么，用来做什么；机器学习方法的分类与综述；机器学习的基本概念。1.教学目标1）了解机器学习主要应用2）了解机器学习基本技术方法本章教学支持课程目标1和课程目标4。2.教学重点1）机器学习基本概念2）机器学习算法的主要类型3.教学难点1）学习概率论中相关知识思想，应用分析解决实际机器学习中问题4.教学环节设计结合现代机器学习的发展，开展文献阅读与讨论，较全面地介绍自然语言处理领域的核心概念、任务和方法。第二章基本数学及信息学理论（学生自看*）本章的主要知识点包括概率论基础及信息论基础以及线性代数，最大似然估计等机器学习知识与方法。·概率Probability，条件概率ConditionalProbability，期望
七、课程目标对毕业要求的支撑关系 支撑的毕业要求二级指标点 课程目标 1.1 能将数学、自然科学和信息科学的语言工具用于计算机复杂工程问题 的表述。 目标 1-2 1.2 能针对计算机复杂工程问题的具体对象进行建模和求解。 目标 1-2 12.1 能认识到计算机技术日新月异的发展特点，认同自主学习和终身学习 的必要性 目标 3 12.2 具备自主学习能力，能通过多种途径拓展自己的知识和能力，包括理 解能力，归纳总结的能力和提出问题的能力等 目标 4 八、教学设计及对课程目标的支持 第一章 引言 本章主要知识点包括机器学习概述，发展历史，机器学习算法的主要类型。 包括机器学习是什么，用来做什么；机器学习方法的分类与综述；机器学习的基 本概念 。 1.教学目标 1) 了解机器学习主要应用 2) 了解机器学习基本技术方法 本章教学支持课程目标 1 和课程目标 4。 2.教学重点 1) 机器学习基本概念 2) 机器学习算法的主要类型 3.教学难点 1) 学习概率论中相关知识思想，应用分析解决实际机器学习中问题。 4.教学环节设计 结合现代机器学习的发展，开展文献阅读与讨论，较全面地介绍自然语言处 理领域的核心概念、任务和方法。 第二章 基本数学及信息学理论(学生自看*) 本章的主要知识点包括概率论基础及信息论基础以及线性代数，最大似然估 计等机器学习知识与方法。 概率 Probability，条件概率 Conditional Probability，期望
Expectation，方差Variance，标准差Deviation，协方差Covariance，二项分布BinomialDistribution，高斯分布GaussianDistribution等；·焰Entropy，联合焰JointEntropy，条件ConditionalEntropy，互信息MutualInformation，KL散度KL-Divergence，交叉熵CrossEntropy·最大似然估计MaximumLikelihoodEstimation；·梯度下降GradientDescent；·参数学习ParameterEstimation；1.教学目标1）了解线性代数等基本数学知识2）了解概率论基础3）了解信息论基础本章教学支持课程目标1和目标2。2.教学重点统计概率论基础。3.教学难点经典概率论知识：条件概率，，期望，方差，标准差，协方差，二项分布，高斯分布等。4.教学环节设计针对教学内容展开讨论，重视理解和掌握基本原理和方法，从数理基础、方法与应用、前沿专题三个层次培养学生的科学思维方法。第三章监督学习1.教学目标4）监督学习的概念；5）监督学习的基本元素。本章教学支持课程目标1、目标2和课程目标3。2.教学重点1）监督学习的基本元素；3.教学难点1）监督学习与无监督学习的概念；2）监督学习的基本元素；4.教学环节设计示例空间、目标函数、训练集、测试集、假设空间、损失函数、泛化等监督学习的基本元素的学习
Expectation ， 方 差 Variance ， 标 准 差 Deviation ， 协 方 差 Covariance，二项分布 Binomial Distribution，高斯分布 Gaussian Distribution 等; 熵 Entropy，联合熵 Joint Entropy，条件熵 Conditional Entropy， 互信息 Mutual Information，KL 散度 KL-Divergence，交叉熵 Cross Entropy 最大似然估计 Maximum Likelihood Estimation； 梯度下降 Gradient Descent； 参数学习 Parameter Estimation； 1.教学目标 1) 了解线性代数等基本数学知识 2) 了解概率论基础 3) 了解信息论基础 本章教学支持课程目标 1 和目标 2。 2.教学重点 统计概率论基础。 3.教学难点 经典概率论知识：条件概率，期望，方差，标准差，协方差，二项分布， 高斯分布等。 4.教学环节设计 针对教学内容展开讨论，重视理解和掌握基本原理和方法，从数理基础、方 法与应用、前沿专题三个层次培养学生的科学思维方法。 第三章 监督学习 1.教学目标 4) 监督学习的概念； 5) 监督学习的基本元素。 本章教学支持课程目标 1、目标 2 和课程目标 3。 2.教学重点 1) 监督学习的基本元素； 3.教学难点 1) 监督学习与无监督学习的概念； 2) 监督学习的基本元素； 4.教学环节设计 示例空间、目标函数、训练集、测试集、假设空间、损失函数、泛化等监督 学习的基本元素的学习
第四章K近邻算法本章主要知识点包括K近邻算法。1.教学目标K近邻算法的概念和要素。本章教学支持课程目标1。2.教学重点掌握K近邻算法在高维情形下的求解难度以及高维流形下的可用性。3.教学难点K近邻算法在高维情形下的求解难度以及高维流形下的可用性。4.教学环节设计对应设计课堂讨论，在图像数据上的应用。第五章感知机本章主要知识点包括线性分类、感知机算法。1.教学目标感知机的概念和要素。本章教学支持课程目标1。2.教学重点掌握感知机算法的求解过程和适用性。3.教学难点感知机算法的求解过程和适用性。4.教学环节设计对应设计课堂讨论，在真实数据上的应用。第六章贝叶斯和概率统计本章主要知识点包括联合概率分布、最大先验和最大后验。1.教学目标联合概率分布、最大先验和最大后验。本章教学支持课程目标1。2.教学重点掌握最大先验和最大后验。3.教学难点最大先验和最大后验
第四章 K 近邻算法 本章主要知识点包括 K 近邻算法。 1.教学目标 K 近邻算法的概念和要素。 本章教学支持课程目标 1。 2.教学重点 掌握 K 近邻算法在高维情形下的求解难度以及高维流形下的可用性。 3.教学难点 K 近邻算法在高维情形下的求解难度以及高维流形下的可用性。 4.教学环节设计 对应设计课堂讨论，在图像数据上的应用。 第五章 感知机 本章主要知识点包括线性分类、感知机算法。 1.教学目标 感知机的概念和要素。 本章教学支持课程目标 1。 2.教学重点 掌握感知机算法的求解过程和适用性。 3.教学难点 感知机算法的求解过程和适用性。 4.教学环节设计 对应设计课堂讨论，在真实数据上的应用。 第六章 贝叶斯和概率统计 本章主要知识点包括联合概率分布、最大先验和最大后验。 1.教学目标 联合概率分布、最大先验和最大后验。 本章教学支持课程目标 1。 2.教学重点 掌握最大先验和最大后验。 3.教学难点 最大先验和最大后验
4.教学环节设计对应设计课堂讨论，在真实数据上的应用。第七章逻辑回归、线性回归本章主要知识点包括逻辑回归、通用的梯度下降算法、线性回归。1.教学目标逻辑回归、梯度下降、线性回归的概念和算法。本章教学支持课程目标1。2.教学重点掌握逻辑回归算法、线性回归以及适用范围。3.教学难点逻辑回归算法、线性回归模型与算法以及适用范围。4.教学环节设计对应设计课堂讨论、实验，在真实数据上的应用。第八章支持向量机本章主要知识点包括支持向量机的模型、算法。1.教学目标线性可分与不可分情形下的支持向量机的模型与算法、对偶优化问题。本章教学支持课程目标1、3。2.教学重点掌握线性可分与不可分情形下的支持向量机的模型与算法。3.教学难点线性可分与不可分情形下的支持向量机的对偶优化问题、主问题和对偶问题的关系。4.教学环节设计对应设计课堂讨论、实验和在真实数据上的应用。第九章经验风险最小化原则、偏差与方差估计本章主要知识点包括经验风险最小化原则、偏差与方差估计。1.教学目标经验风险最小化原则、偏差与方差估计
4.教学环节设计 对应设计课堂讨论，在真实数据上的应用。 第七章 逻辑回归、线性回归 本章主要知识点包括逻辑回归、通用的梯度下降算法、线性回归。 1.教学目标 逻辑回归、梯度下降、线性回归的概念和算法。 本章教学支持课程目标 1。 2.教学重点 掌握逻辑回归算法、线性回归以及适用范围。 3.教学难点 逻辑回归算法、线性回归模型与算法以及适用范围。 4.教学环节设计 对应设计课堂讨论、实验，在真实数据上的应用。 第八章 支持向量机 本章主要知识点包括支持向量机的模型、算法。 1.教学目标 线性可分与不可分情形下的支持向量机的模型与算法、对偶优化问题。 本章教学支持课程目标 1、3。 2.教学重点 掌握线性可分与不可分情形下的支持向量机的模型与算法。 3.教学难点 线性可分与不可分情形下的支持向量机的对偶优化问题、主问题和对偶问题 的关系。 4.教学环节设计 对应设计课堂讨论、实验和在真实数据上的应用。 第九章 经验风险最小化原则、偏差与方差估计 本章主要知识点包括经验风险最小化原则、偏差与方差估计。 1.教学目标 经验风险最小化原则、偏差与方差估计