节咱们举例子讲到如何计算马尔可夫的值函数，本章节主要介绍一些常用的算法。值迭代算法对$i \in S$通过计算$$v^{n+1}(i)=max_{a \in A(i)}\{r(i,a)+\beta \sum_{j \in S} p(j|i,a)v^{n}(j)\}$$如果$$v^{n+1}(i)-v^{n}(i)<\frac{\sigma(1-\beta)}{2\beta}$$进入下一步，否

决策者在整个决策阶段收到一系列的报酬折现以后累加起来就是具体的效用函数，我们称之为无限阶段的折扣模型。具体的表达如下$$V_{\beta}(i,\pi)=\sum_{0}^{\infty} \beta^{t} E_{\pi}^{i}[r(Y_{t}, \Delta_{t})]$$从上面的表达式折扣因子就是$\beta$, $\Delta_{t}$表示采用不同的动作，$Y_{t}$表示状态的变换。这

动态规划动态规划相信大家都是了解的，这是一个运筹学的分支，其核心的思想是将一个大的问题分解成n个小问题，而要解决这个大问题，往往需要这些小问题的解，一般通过某些方式存储起来，从而节省大量时间。而马尔可夫就具有这样的特性，所有动态规划经常被用作解决强化学习问题的方法。策略评估我们在做强化学习的同时往往

马尔可夫决策过程提供了基本的理论框架，几乎所有的马尔可夫学习问题都可以使用MDP的决策过程建模。而本节讲的贝尔曼方程是马尔可夫决策过程用到最基础的方程。贝尔曼方程方程也被成为动态规划方程，贝尔曼方程表达了当前值函数（或行为值函数）和它后继值函数的关系，以及值函数与行为函数之间的关系。而贝尔曼最优方程