分析机器学司被效弃 分析机器学习所包含的类比、解释等问 题对背景知识有更高的要求，这从表示 到学习均需要考虑新的理论基础，在这 些理论未出现之前，其淡出机器学习研 究的视野是自然的 6
6 分析机器学习被放弃 ◼ 分析机器学习所包含的类比、解释等问 题对背景知识有更高的要求，这从表示 到学习均需要考虑新的理论基础，在这 些理论未出现之前，其淡出机器学习研 究的视野是自然的
近儿年的发展动向 由于真实世界的问题十分困难，现有的理 论、方法，甚至理念已不能满足需要，由 此，大量近代数学的研究结果被引入计算 机科学，由此，形成新的机器学习范式 7
7 近几年的发展动向 ◼ 由于真实世界的问题十分困难，现有的理 论、方法，甚至理念已不能满足需要，由 此，大量近代数学的研究结果被引入计算 机科学，由此，形成新的机器学习范式
特点 从Carbonell到Dietterich的特点是： (1) 在算法设计理论上，基础代替随意的算法 设计，具体地说，更为强调机器学习的数 学基础 (2) 应用驱动代替理论驱动（认知科学与算法 的Open问题)。具体地说，从AI中以“学 习”机制驱动（智能）”的研究方式，改变为 根据面临的实际问题发展新的理论与方法 8
8 特点 ◼ 从Carbonell到Dietterich的特点是： (1) 在算法设计理论上，基础代替随意的算法 设计，具体地说，更为强调机器学习的数 学基础 (2) 应用驱动代替理论驱动(认知科学与算法 的Open问题)。具体地说，从AI中以“学 习”机制驱动(智能)”的研究方式，改变为 根据面临的实际问题发展新的理论与方法
统计机器学习的要点 目前，统计机器学习的研究主要集 中在两个要点上： 表示问题 泛化问题 非线性问题 对给定样本集合 通过算法建立模型 在线形空间的表示 对问题世界为真的程度 9
9 统计机器学习的要点 ◼ 目前，统计机器学习的研究主要集 中在两个要点上： 表示问题 泛化问题 非线性问题 在线形空间的表示 对给定样本集合， 通过算法建立模型， 对问题世界为真的程度
线性表示 计算：非线性算法一般是NP完全的。 认识世界：只有在某个空间中可以描述为线 性的世界，人们才说，这个世界已被认识（将 问题变换为另一个问题) 数学方法：寻找一个映射，将非线性问题映 射到线性空间，以便其可以线性表述 10
10 线性表示 ◼ 计算：非线性算法一般是NP完全的。 ◼ 认识世界：只有在某个空间中可以描述为线 性的世界，人们才说，这个世界已被认识(将 问题变换为另一个问题) ◼ 数学方法：寻找一个映射，将非线性问题映 射到线性空间，以便其可以线性表述