机器学习 第8章基于实例的学习 2003.12.18机器学习-基于实例的学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-基于实例的学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 1 机器学习 第8章 基于实例的学习
概述 已知一系列的训练样例,许多学习方法为目标 函数建立起明确的一般化描述, 基于实例的学习方法只是简单地把训练样例存 储起来,从这些实例中泛化的工作被推迟到必 须分类新的实例时 每当学习器遇到一个新的查询实例,它分析这 个新实例与以前存储的实例的关系,并据此把 个目标函数值赋给新实例 2003.12.18机器学习-基于实例的学习作者: Mitchell译者:曾华军等讲者:陶晓鹏 2
2003.12.18 机器学习-基于实例的学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 2 概述 • 已知一系列的训练样例，许多学习方法为目标 函数建立起明确的一般化描述， • 基于实例的学习方法只是简单地把训练样例存 储起来，从这些实例中泛化的工作被推迟到必 须分类新的实例时 • 每当学习器遇到一个新的查询实例，它分析这 个新实例与以前存储的实例的关系，并据此把 一个目标函数值赋给新实例
概述(2) 基于实例的学习方法包括: 假定实例可以表示成欧氏空间中的点 ·最近邻法 ·局部加权回归法 对实例采用更复杂的符号表示 基于案例的推理 基于实例的学习方法有时被称为消极学习法,它把处 理工作延迟到必须分类新的实例时 这种延迟的学习方法有一个优点:不是在整个实例空 间上一次性地估计目标函数,而是针对每个待分类新 实例作出局部的和相异的估计 2003.12.18机器学习-基于实例的学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-基于实例的学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 3 概述（2） • 基于实例的学习方法包括： – 假定实例可以表示成欧氏空间中的点 • 最近邻法 • 局部加权回归法 – 对实例采用更复杂的符号表示 • 基于案例的推理 • 基于实例的学习方法有时被称为消极学习法，它把处 理工作延迟到必须分类新的实例时 • 这种延迟的学习方法有一个优点：不是在整个实例空 间上一次性地估计目标函数，而是针对每个待分类新 实例作出局部的和相异的估计
简介 基于实例的学习方法的学习过程只是简单地存储已知 的训练数据,当遇到新的查询实例时,一系列相似的 实例从存储器中取出,用来分类新的查询实例 与其他方法相比,基于实例的学习方法的一个关键差 异是:可以为不同的待分类查询实例建立不同的目标 函数逼近 许多技术不建立目标函数在整个实例空间上的逼近, 只建立局部逼近,并将其用于与新实例邻近的实例 这样做的好处是:有时目标函数很复杂,但具有不太 复杂的局部逼近描述 2003.12.18机器学习-基于实例的学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-基于实例的学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 4 简介 • 基于实例的学习方法的学习过程只是简单地存储已知 的训练数据，当遇到新的查询实例时，一系列相似的 实例从存储器中取出，用来分类新的查询实例 • 与其他方法相比，基于实例的学习方法的一个关键差 异是：可以为不同的待分类查询实例建立不同的目标 函数逼近 • 许多技术不建立目标函数在整个实例空间上的逼近， 只建立局部逼近，并将其用于与新实例邻近的实例 • 这样做的好处是：有时目标函数很复杂，但具有不太 复杂的局部逼近描述
简介(2) 基于案例的学习(基于实例的学习的一种)使 用复杂的符号表示法来描述实例,也按照这种 方式确定邻近实例 基于实例的方法的不足: 分类新实例的开销可能很大。 ·几乎所有的计算都发生在分类时,而不是在第一次遇到训 练样例时。如何有效地索引训练样例是一个重要的问题 当从存储器中检索相似的训练样例时,一般考虑实 例的所有属性,如果目标概念仅依赖于很多属性中 的几个,那么真正最“相似”的实例之间可能相距 甚远 2003.12.18机器学习-基于实例的学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-基于实例的学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 5 简介（2） • 基于案例的学习（基于实例的学习的一种）使 用复杂的符号表示法来描述实例，也按照这种 方式确定邻近实例 • 基于实例的方法的不足： – 分类新实例的开销可能很大。 • 几乎所有的计算都发生在分类时，而不是在第一次遇到训 练样例时。如何有效地索引训练样例是一个重要的问题 – 当从存储器中检索相似的训练样例时，一般考虑实 例的所有属性，如果目标概念仅依赖于很多属性中 的几个，那么真正最“相似”的实例之间可能相距 甚远