统计学习理论及应用 第一讲概述 编写：文泉、陈娟 电子科技大学 计机科学与工程学院
统计学习理论及应用 第一讲 概述 编写：文泉、陈娟 电子科技大学 计算机科学与工程学院
教材 ①李航，统计学习方法（第2版），清华大学出版社，2019 主要参考书目 ①周志华，机器学习，清华大学出版社，2016 2S.Theodoridis,.模式识别，第四版，电子工业版社 3 C.M.Bishop,Pattern Recognition and Machine Learning, Springer,2006 4 I.Goodfellow,Y.Bengio,A.Courville,Deep Learning, MIT Press,2016 5 R.O.Duda,P.E.Hart,and D.G.Stork,Pattern Classification,2nd edition,John Wiley Sons,Inc.,2001 1/49
教材 1 李航，统计学习方法（第 2 版），清华大学出版社，2019 主要参考书目 1 周志华，机器学习，清华大学出版社，2016 2 S. Theodoridis, 模式识别，第四版，电子工业版社 3 C. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006 4 I. Goodfellow, Y. Bengio, A. Courville, Deep Learning, MIT Press, 2016 5 R.O. Duda, P.E. Hart, and D.G. Stork, Pattern Classification, 2nd edition, John Wiley & Sons, Inc., 2001 1 / 49
教学内容与课时安排 ●第一章：统计学习概述（1学时) ·第二章：线性代数与概率论概述（2学时) 。第三章：回归模型(4学时) 。第四章：感知机(4学时) 。第五章：支持向量机(12学时) ·第六章：多层感知机(6学时) ●第七章：集成方法(4学时) 。第八章：数据表示-含参模型(4学时) 。第九章：数据表示不含参模型（3学时) 2/49
教学内容与课时安排 第一章：统计学习概述（1 学时） 第二章：线性代数与概率论概述（2 学时） 第三章：回归模型（4 学时） 第四章：感知机（4 学时） 第五章：支持向量机（12 学时） 第六章：多层感知机（6 学时） 第七章：集成方法（4 学时） 第八章：数据表示-含参模型（4 学时） 第九章：数据表示-不含参模型（3 学时） 2 / 49
数学符号Mathematical Notation 。矩阵符号 xi:scalar标量 x:vector矢量，表示为：X=(x1,.,xM) x乙：矢量x的转置 X:matriⅸ矩阵，其i行j列元素为Xg XT:矩阵X的转置 IM:M×M单位矩阵 。概率统计符号 x,y:realized values(lowercase)of the random variables Xand Y(uppercase) X,Y:random variables Y and Y ,sample space(uppercase script Roman letters) B,入：parameters(lowercase Greek letter) parameter space(uppercase script Greek letters) 4/49
数学符号 Mathematical Notation 矩阵符号 xi : scalar 标量 x: vector 矢量，表示为: x = (x1, . . . , xM) x T : 矢量 x 的转置 X: matrix 矩阵，其 i 行 j 列元素为 Xij X T : 矩阵 X 的转置 IM: M × M 单位矩阵 概率统计符号 x, y: realized values (lowercase) of the random variables X and Y (uppercase) X, Y: random variables X and Y X , Y: sample space (uppercase script Roman letters) θ, λ: parameters (lowercase Greek letter) Θ, Ω: parameter space (uppercase script Greek letters) 4 / 49
目录 ① 统计学习的定义 2 统计模式识别的应用案例 统计模式识别系统框架与设计周期 。统计模式识别系统框架 0 统计模式识别设计周期 一个案例 基本概念 ⑥机器学习在人工智能中的位置 5/49
目录 1 统计学习的定义 2 统计模式识别的应用案例 3 统计模式识别系统框架与设计周期 统计模式识别系统框架 统计模式识别设计周期 4 一个案例 5 基本概念 6 机器学习在人工智能中的位置 5 / 49