之前的学习中，我们了解到学习强化学习的数据是完整的采样轨迹(蒙特卡洛方法)，使用动态规划需要采用自举的方法，使用后继的值函数估计当前的值函数，本章要介绍的实际上是这两种方法的结合，叫做时序差分。我们首先来回顾一下原来值函数的估计方程。

咱们第三节介绍了基于模型的强化学习方法，动态规划计算值函数的公式。$$V_{π}(s)=\sum_{a\inA}π(a|s)(R_+\gamma\sum_{s'\inS}P_{ss'}V_{π}(s'))\tag{3.1}$$

动态规划动态规划相信大家都是了解的，这是一个运筹学的分支，其核心的思想是将一个大的问题分解成n个小问题，而要解决这个大问题，往往需要这些小问题的解，一般通过某些方式存储起来，从而节省大量时间。而马尔可夫就具有这样的特性，所有动态规划经常被用作解决强化学习问题的方法。策略评估我们在做强化学习的同时往往

马尔可夫决策过程提供了基本的理论框架，几乎所有的马尔可夫学习问题都可以使用MDP的决策过程建模。而本节讲的贝尔曼方程是马尔可夫决策过程用到最基础的方程。贝尔曼方程方程也被成为动态规划方程，贝尔曼方程表达了当前值函数（或行为值函数）和它后继值函数的关系，以及值函数与行为函数之间的关系。而贝尔曼最优方程

强化学习简介首先我们来说下深度学习或者机器学习这个范畴，众所周知，深度学习此类学习方式是典型的端到端的学习方式，什么是端到端呢？就是我直接给你结果，你根据输入来告诉学习中间的过程，而中间的过程一般就是矩阵参数。对比而言呢，强化学习其实一个序列决策，一听到这里第一个不同就是我们是在一个序列过程中做决策