机器学习 第13章增强学习 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 1 机器学习 第13章 增强学习
概述 ·增强学习要解决的问题:一个能够感知环境的 自治 agent,怎样通过学习选择能达到其目标的 最优动作 当 agent在其环境中做出每个动作,施教者提供 奖励或惩罚信息, agent从这个非直接的回报中 学习,以便后续动作产生最大的累积回报 本章介绍一个称为Q学习的算法,它可从有延 迟的回报中获取最优控制策略 ·增强学习与动态规划算法有关,后者常被用于 解决最优化问题 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏 2
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 2 概述 • 增强学习要解决的问题：一个能够感知环境的 自治agent，怎样通过学习选择能达到其目标的 最优动作 • 当agent在其环境中做出每个动作，施教者提供 奖励或惩罚信息，agent从这个非直接的回报中 学习，以便后续动作产生最大的累积回报 • 本章介绍一个称为Q学习的算法，它可从有延 迟的回报中获取最优控制策略 • 增强学习与动态规划算法有关，后者常被用于 解决最优化问题
简介 考虑一个可学习的机器人,它可以观察环境的状态并 能做出一组动作改变这些状态,学习的任务是获得 个控制策略,以选择能达到目的的行为 本章关心的是:机器人怎样在环境中做实验并根据回 报函数成功学习到控制策略 图13-1,学习控制策略以使累积回报最大化这个问题 很普遍,它是一个通过学习来控制序列过程的问题, 比如 生产优化问题:选择一系列生产动作,使生产出的货物减去 其成本达到最大化 出租车调度:选择出租车运载乘客,其中回报函数为乘客等 待的时间和车队的整体油耗 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 3 简介 • 考虑一个可学习的机器人，它可以观察环境的状态并 能做出一组动作改变这些状态，学习的任务是获得一 个控制策略，以选择能达到目的的行为 • 本章关心的是：机器人怎样在环境中做实验并根据回 报函数成功学习到控制策略 • 图13-1，学习控制策略以使累积回报最大化这个问题 很普遍，它是一个通过学习来控制序列过程的问题， 比如 – 生产优化问题：选择一系列生产动作，使生产出的货物减去 其成本达到最大化 – 出租车调度：选择出租车运载乘客，其中回报函数为乘客等 待的时间和车队的整体油耗
简介(2) 在第11章,已经接触到了通过学习来控制序列 过程的问题,用基于解释的方法学习规则,以 控制问题求解中的搜索 本章考虑的问题不同于第11章,因为考虑的问 题中,行为可能有非确定性的输出,而且学习 器缺少描述其行为输出的领域理论 学习控制策略类似前面讨论过的函数逼近问题, 这里待学习的目标函数是控制策略π:S→>A,它 在给定当前状态S集合中的s时,从集合A中输 出一个合适的动作a 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 4 简介（2） • 在第11章，已经接触到了通过学习来控制序列 过程的问题，用基于解释的方法学习规则，以 控制问题求解中的搜索 • 本章考虑的问题不同于第11章，因为考虑的问 题中，行为可能有非确定性的输出，而且学习 器缺少描述其行为输出的领域理论 • 学习控制策略类似前面讨论过的函数逼近问题， 这里待学习的目标函数是控制策略: S→A，它 在给定当前状态S集合中的s时，从集合A中输 出一个合适的动作a
简介(3) 增强学习问题与普通函数逼近问题有几个重要的不同 延迟回报:施教者只在机器人执行其序列动作时提供一个序 列立即回报值,因此面临一个时间信用分配的问题:确定最 终回报的生成应归功于序列中哪一个动作 探索:学习器面临一个权衡过程,是选择探索未知的状态和 动作,还是选择利用它已经学习过、会产生高回报的状态和 动作 部分可观察状态:机器人的传感器只能感知环境的部分状态 终生学习:使得有可能使用先前获得的经验或知识在学习新 任务时减小样本复杂度 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 5 简介（3） • 增强学习问题与普通函数逼近问题有几个重要的不同： – 延迟回报：施教者只在机器人执行其序列动作时提供一个序 列立即回报值，因此面临一个时间信用分配的问题：确定最 终回报的生成应归功于序列中哪一个动作 – 探索：学习器面临一个权衡过程，是选择探索未知的状态和 动作，还是选择利用它已经学习过、会产生高回报的状态和 动作 – 部分可观察状态：机器人的传感器只能感知环境的部分状态 – 终生学习：使得有可能使用先前获得的经验或知识在学习新 任务时减小样本复杂度