机器学习 第10章学习规则集合 2003.12.18机器学习学习规则集合作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-学习规则集合作者：Mitchell 译者：曾华军等讲者：陶晓鹏 1 机器学习 第10章 学习规则集合
概述 对学习到的假设,最具有表征力的和最能为人 类所理解的表示方法之一是i-then规则的集合 本章探索若干能学习这样的规则集合的算法 其中,最重要的是学习包含变量的规则集合, 或称一阶Homn子句集合 由于一阶Homn子句集合可被解释为逻辑编程语 言 Prolog中的程序,学习的过程常被称为归纳 逻辑编程 本章考察了多种学习规则集合的途径,其中 种是基于机器定理证明器中演绎算子的逆转 2003.12.18机器学习学习规则集合作者: Mitchell译者:曾华军等讲者:陶晓鹏 2
2003.12.18 机器学习-学习规则集合作者：Mitchell 译者：曾华军等讲者：陶晓鹏 2 概述 • 对学习到的假设，最具有表征力的和最能为人 类所理解的表示方法之一是if-then规则的集合 • 本章探索若干能学习这样的规则集合的算法 • 其中，最重要的是学习包含变量的规则集合， 或称一阶Horn子句集合 • 由于一阶Horn子句集合可被解释为逻辑编程语 言Prolog中的程序，学习的过程常被称为归纳 逻辑编程 • 本章考察了多种学习规则集合的途径，其中一 种是基于机器定理证明器中演绎算子的逆转
简介 在许多情况下,有必要学习一个由若干 if-then 规则共同定义的目标函数,比如 决策树 遗传算法 本章我们讨论一组不同的算法,它们直接学习 规则集合,与前面算法有两点关键的不同 可学习包含变量的一阶规则集合(一阶子句的表达 能力比命题规则要强得多) 使用序列覆盖算法,一次学习一个规则,以递增的 方式形成最终的规则集合 2003.12.18机器学习学习规则集合作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-学习规则集合作者：Mitchell 译者：曾华军等讲者：陶晓鹏 3 简介 • 在许多情况下，有必要学习一个由若干if-then 规则共同定义的目标函数，比如 – 决策树 – 遗传算法 • 本章我们讨论一组不同的算法，它们直接学习 规则集合，与前面算法有两点关键的不同 – 可学习包含变量的一阶规则集合（一阶子句的表达 能力比命题规则要强得多） – 使用序列覆盖算法，一次学习一个规则，以递增的 方式形成最终的规则集合
简介(2) 阶规则集合的例子 if Parent(x,y) then Ancestor(x, y) if Parent(x, z)A Ancestor(z, y) then Ancestor(x, y) 这个规则集合很紧凑地描述了一个递归函数,它很难用决策 树或其他命题的方法来表示 Prolog程序就是一阶规则的集合,因此一个可以学习这 种规则集合的通用算法,可被看作是从样例中自动推 导出 Prolog程序的算法 阶表示的学习系统在实践中的应用 在质谱仪中学习哪一个化学药品能粘合碎片 学习哪一个化学亚结构会产生诱导有机体突变的放射性物质 学习有限单元网以分析物理结构中的应力 2003.12.18机器学习学习规则集合作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-学习规则集合作者：Mitchell 译者：曾华军等讲者：陶晓鹏 4 简介（2） • 一阶规则集合的例子 if Parent(x,y) then Ancestor(x,y) if Parent(x,z) Ancestor(z,y) then Ancestor(x,y) – 这个规则集合很紧凑地描述了一个递归函数，它很难用决策 树或其他命题的方法来表示 • Prolog程序就是一阶规则的集合，因此一个可以学习这 种规则集合的通用算法，可被看作是从样例中自动推 导出Prolog程序的算法 • 一阶表示的学习系统在实践中的应用 – 在质谱仪中学习哪一个化学药品能粘合碎片 – 学习哪一个化学亚结构会产生诱导有机体突变的放射性物质 – 学习有限单元网以分析物理结构中的应力
内容安排 先介绍能够学习命题规则集的算法(命 题规则可看作不含变量的一阶规则) 算法搜寻假设空间学习析取规则集合 将上面算法扩展到一阶规则 讨论归纳逻辑的两种通用途径以及归纳 和演绎推理的基本关系 2003.12.18机器学习学习规则集合作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-学习规则集合作者：Mitchell 译者：曾华军等讲者：陶晓鹏 5 内容安排 • 先介绍能够学习命题规则集的算法（命 题规则可看作不含变量的一阶规则）， 算法搜寻假设空间学习析取规则集合 • 将上面算法扩展到一阶规则 • 讨论归纳逻辑的两种通用途径以及归纳 和演绎推理的基本关系