学习任务 本节我们把学习序列控制策略的问题更 精确地形式化,有多种可选择的形式化 方法,比如 柷器人的行为是确定性或非确定性的 机器人可以预测或不能预测每一个行为所产 生的状态 机器人由外部专家通过示例最优动作序列来 训练或必须通过执行自己选择的动作来训练 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 6 学习任务 • 本节我们把学习序列控制策略的问题更 精确地形式化，有多种可选择的形式化 方法，比如 – 机器人的行为是确定性或非确定性的 – 机器人可以预测或不能预测每一个行为所产 生的状态 – 机器人由外部专家通过示例最优动作序列来 训练或必须通过执行自己选择的动作来训练 –
学习任务(2) 我们基于马尔科夫决策过程定义学习控制策略问题的 般形式 设机器人可感知到其环境的不同状态集合S,可执行的动作集 合A 在每个离散时间步t,机器人感知到当前状态st,选择当前动作 at,环境给出回报rt=(s,at),并产生后继状态st1=8〈s,at 注意:回报函数和后继状态函数只依赖于当前状态和动作, 这里先考虑它们为确定性的情形 定义:策略π从初始状态st获得的累积值为 V"(s,)=r+M4+yra+ 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 7 学习任务（2） • 我们基于马尔科夫决策过程定义学习控制策略问题的 一般形式 – 设机器人可感知到其环境的不同状态集合S，可执行的动作集 合A – 在每个离散时间步t，机器人感知到当前状态st，选择当前动作 at，环境给出回报rt=r(st,at)，并产生后继状态st+1=(st,at) – 注意：回报函数和后继状态函数只依赖于当前状态和动作， 这里先考虑它们为确定性的情形 • 定义：策略从初始状态st获得的累积值为 = + + + = = + + + 0 2 2 1 ( ) ... i t i i t t t t r V s r r r
学习任务(2) 上面定义的量又称为折算累积回报,还有其他 些整体回报的定义:有限水平回报、平均回 报 定义:学习控制策略的任务是,要求机器人学 习到一个策略π,使得对于所有状态s,V叫(s)为 最大,表示为 arg max V(s),(Vs) 最优策略的值函数c记作V*(s) 图13-2,对上面定义的示例 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 8 学习任务（2） • 上面定义的量又称为折算累积回报，还有其他 一些整体回报的定义：有限水平回报、平均回 报 • 定义：学习控制策略的任务是，要求机器人学 习到一个策略，使得对于所有状态s，V (s)为 最大，表示为 最优策略的值函数 记作V* (s) • 图13-2，对上面定义的示例 arg max ( ),( ) * = V s s ( ) * V s
Q学习 机器人在仼意的环境中直接学习最优策略很难,因为 没有形式为<sa>的训练样例 川练数据是立即回报函数,容易学习一个定义在状态 和动作上的数值评估函数,然后实现最优策略 很明显,可以将V作为待学习的评估函数,由于状态s 下的最优动作是使立即回报r(sa)加上立即后继状态的 V*值最大的动作a,即 TI(s)=arg max[r(s, a)+y((s,a)) 因此,如果具有回报函数和状态转移函数的完美知识, 那么就可以计算出任意状态下的最优动作 但在实际问题中,无法知道回报函数和状态转移函数 的完美知识 2003.12.18 机器学习-增强学习作者: Mitchell译者:曾华军等讲者:陶晓鹏
2003.12.18 机器学习-增强学习作者：Mitchell 译者：曾华军等讲者：陶晓鹏 9 Q学习 • 机器人在任意的环境中直接学习最优策略很难，因为 没有形式为<s,a>的训练样例 • 训练数据是立即回报函数，容易学习一个定义在状态 和动作上的数值评估函数，然后实现最优策略 • 很明显，可以将V*作为待学习的评估函数，由于状态s 下的最优动作是使立即回报r(s,a)加上立即后继状态的 V*值最大的动作a，即 因此，如果具有回报函数和状态转移函数的完美知识， 那么就可以计算出任意状态下的最优动作 • 但在实际问题中，无法知道回报函数和状态转移函数 的完美知识 ( ) arg max[ ( , ) ( ( , ))] * * s r s a V s a a = +