清华大学出版社 TSINGHUA UNIVERSITY PRESS 8.1.2学习系统 所谓学习系统，是指能在一定程度上实现机 器学习的系统。1973年萨里斯的定义是：学习系 统是一个能够学习有关过程的未知信息，并用所 学信息作为进一步决策和控制的经验，从而逐步 改善系统的性能。类似的定义是：若一个系统能 够学习某一过程或环境的未知特征固有信息，并 用所得经验进行估计、分类、决策或控制，使得 全系统的品质得到改善，则称该系统为学习系统
8.1.2 学习系统 所谓学习系统，是指能在一定程度上实现机 器学习的系统。1973年萨里斯的定义是：学习系 统是一个能够学习有关过程的未知信息，并用所 学信息作为进一步决策和控制的经验，从而逐步 改善系统的性能。类似的定义是：若一个系统能 够学习某一过程或环境的未知特征固有信息，并 用所得经验进行估计、分类、决策或控制，使得 全系统的品质得到改善，则称该系统为学习系统
清华大学出版社 TSINGHUA UNIVERSITY PRESS 一个学习系统应具有如下的条件和能力： 1. 适当的学习环境。这里所说的环境是指学习系统进行学习 时的信息来源，若学习系统不具有适当的环境，则它就失去了学习和 应用的基础，不能实现机器学习。对不同的学习系统及不同的应用， 其环境一般是不相同的。 2.具有一定的学习能力。除了上述的学习环境，为要从中学到 有关信息，它还必须有合适的学习方法及一定的学习能力。学习过程 是系统与环境相互作用的过程，是边学习、边实践，然后再学习、再 实践的过程。学习系统也是通过与环境相互作用逐步学到有关知识的， 而且在学习过程中要通过实践验证、评价所学知识的正确性。 3.能应用学到的知识求解问题。学习系统应能把学到的信息用 于未来的估计、分类、决策或控制，做到学以致用。 4.能提高系统的性能。学习系统通过学习应能增长知识，提高 技能，改善系统的性能，使它能完成原来不能完成的任务，或比原来 做得更好
一个学习系统应具有如下的条件和能力： 1． 适当的学习环境。这里所说的环境是指学习系统进行学习 时的信息来源，若学习系统不具有适当的环境，则它就失去了学习和 应用的基础，不能实现机器学习。对不同的学习系统及不同的应用， 其环境一般是不相同的。 2． 具有一定的学习能力。除了上述的学习环境，为要从中学到 有关信息，它还必须有合适的学习方法及一定的学习能力。学习过程 是系统与环境相互作用的过程，是边学习、边实践，然后再学习、再 实践的过程。学习系统也是通过与环境相互作用逐步学到有关知识的， 而且在学习过程中要通过实践验证、评价所学知识的正确性。 3． 能应用学到的知识求解问题。学习系统应能把学到的信息用 于未来的估计、分类、决策或控制，做到学以致用。 4． 能提高系统的性能。学习系统通过学习应能增长知识，提高 技能，改善系统的性能，使它能完成原来不能完成的任务，或比原来 做得更好
清华大学出版社 TSINGHUA UNIVERSITY PRESS 8.1.3机器学习的主要策略 学习是一项复杂的智能活动，学习过程与推 理过程二者紧密相连，学习中使用的推理方法称 为学习策略。学习系统中的推理过程实际上就是 一种变换过程，它将系统外部提供的信息变换为 符合系统内部表达的形式，以便对信息进行存储 和使用。这种变换的性质决定了学习策略的类型 为：机械学习、通过传授学习、类比学习和通过 事例学习
8.1.3 机器学习的主要策略 学习是一项复杂的智能活动，学习过程与推 理过程二者紧密相连，学习中使用的推理方法称 为学习策略。学习系统中的推理过程实际上就是 一种变换过程，它将系统外部提供的信息变换为 符合系统内部表达的形式，以便对信息进行存储 和使用。这种变换的性质决定了学习策略的类型 为：机械学习、通过传授学习、类比学习和通过 事例学习
清华大学出版社 TSINGHUA UNIVERSITY PRESS 1.机械学习。它就是记忆，是最简单的学习策略。这种学习策 略不需任何推理过程；外界输入的知识表示方式与系统内部表示方式 完全一致，不需要任何处理与转换。虽然机械学习在方法上看似简单， 但由于计算机的存储容量相当大，检索速度又相当快，且记忆精度无 丝毫误差，所以也能产生难以预料的效果。 2.通过传授学习。对于使用该种策略的系统来说，外界输入知 识的表达方式与内部表达方式不完全一致，系统接受外部知识时需要 一点推理、翻译和转化的工作。 3.类比学习。该系统只能得到完成类似任务的有关知识，即在 遇到新的问题时，可学习以前解决过的相类似问题的解决办法，来解 决当前的问题。所以寻求与当前问题相似的已知问题就很重要，并且 必须要能够发现当前任务与已知任务的相似之点，由此制订出完成当 前任务的方案。因此，它比上述两种学习策略需要更多的推理。 4.通过实例学习。系统事先完全没有完成任务的任何规律性的信 息，所得到的只是一些具体的工作例子及工作经验。系统需要对这些 例子及经验进行分析、总结和推广，得到完成任务的一般性规律，并 在进一步工作中验证或修改规律，因此，它需要的推理是最多的
⒈ 机械学习。它就是记忆，是最简单的学习策略。这种学习策 略不需任何推理过程；外界输入的知识表示方式与系统内部表示方式 完全一致，不需要任何处理与转换。虽然机械学习在方法上看似简单， 但由于计算机的存储容量相当大，检索速度又相当快，且记忆精度无 丝毫误差，所以也能产生难以预料的效果。 ⒉ 通过传授学习。对于使用该种策略的系统来说，外界输入知 识的表达方式与内部表达方式不完全一致，系统接受外部知识时需要 一点推理、翻译和转化的工作。 ⒊ 类比学习。该系统只能得到完成类似任务的有关知识，即在 遇到新的问题时，可学习以前解决过的相类似问题的解决办法，来解 决当前的问题。所以寻求与当前问题相似的已知问题就很重要，并且 必须要能够发现当前任务与已知任务的相似之点，由此制订出完成当 前任务的方案。因此，它比上述两种学习策略需要更多的推理。 ⒋ 通过实例学习。系统事先完全没有完成任务的任何规律性的信 息，所得到的只是一些具体的工作例子及工作经验。系统需要对这些 例子及经验进行分析、总结和推广，得到完成任务的一般性规律，并 在进一步工作中验证或修改规律，因此，它需要的推理是最多的
清华大学出版社 TSINGHUA UNIVERSITY PRESS 8.1.4机器学习系统的基本结构 以西蒙的学习定义作为出发点，建立起图8-1所示的机 器学习的基本模型，通过对此模型的讨论，总结出设计学 习系统时应当注意的一些原则。该模型中包括了四个基本 组成环节。环境向系统的学习环节提供某些信息，学习环 节利用这些信息修改知识库，以增进系统执行环节完成任 务的效能，执行环节根据知识库完成的任务，把获得的信 息反映给学习环节。下面对系统中的各个环节进行讨论。 环境 学习环节 知识库 执行环节 图8-1
8.1.4 机器学习系统的基本结构 以西蒙的学习定义作为出发点，建立起图8–1所示的机 器学习的基本模型，通过对此模型的讨论，总结出设计学 习系统时应当注意的一些原则。该模型中包括了四个基本 组成环节。环境向系统的学习环节提供某些信息，学习环 节利用这些信息修改知识库，以增进系统执行环节完成任 务的效能，执行环节根据知识库完成的任务，把获得的信 息反映给学习环节。下面对系统中的各个环节进行讨论。 图8-1