本节咱们换个角度来讲Transformer模型，在上一个文章中，主要以计算的过程介绍模型的运行过程，本章中直接对着模型来进行进一步的讲解。通过上文的介绍，知道Transformer模型架构主要分为了编码器和解码器，那么对于模型架构来讲，咱们还是以这两部分分开讲解。编码器在编码器部分主要有两部分组成，一个是多头注意力层，一个是前馈神经网络，并采用残差机制和层归一化的方式链接。如上图的左侧部分。下图是

接下来这个问题就是要聊一下一个敏感的话题（价格歧视）。在垄断市场的环境下， 卖家能够根据需求的异质性进行区分定价，其目的是让价格尽可能靠近用于的预期支付价格，当然这个几个本身不重要，例如一个很富有的人，你可以把价格定个离谱的高，他也不会感觉到问题，这个时候的成交是能够准换成利润的，反之对于一个穷人来说，定价尽可能低，尽量促成交易，产生利润。在生活中也经常会遇到类似的事情，例如爬山的时候，越到山顶水

本章讲开启一个新的系列，并不是真的进入了一个新的行业，只是不满足原地踏步的自己。 开始系列中，仍然会以介绍一些简单框架和入门知识为主，后续再进一步的介绍相关的算法。需要说明的是定价策略是一门综合科学，包含了经济学、数学、博弈等多方面的知识。交易模式说到定价就不得说一下交易模式，其实从日常的生活中就能感受到，交易模式是越来越丰富的，在不同的交易模式下，对于定价的考量也是不太一样的。先来看看都有啥交易

图表示学习图结构是一个高维稀疏的数据表示，那么图表示学习是将这个高维稀疏的数据映射成低维度稠密的数据，这就是图表示学习的要解决的核心问题。图表示学习一般有两种方式，一种是顶点嵌入，另一种是整图学习。顶点嵌入一般是针对顶点维度，将每个订单映射成一个低维的向量表达，这种方式表达的粒度比较细，一般用于节点层面的预测或者节点分类。整图的表示学习则是针对全图生成一个向量，这种图表示学习方式粒度较粗，一般用于

基于策略的深度强化学习循环确定性策略梯度(RDPG)RDPG属于策略梯度算法。和前面讲到的基于值函数的训练方法不同，策略通过计算梯度更新策略网络中的参数，使得整个策略朝着奖励增高的方向更新。

平均值DQN是基于传统的DQN的一个简单但是非常有效的一个改进，它基于对先前学习过程中的Q值估计进行平均，通过减少目标价值函数中的近似误差方差，使得训练过程更加稳定，并提高性能。至于网络结构上是完全一致的。算法分析平均值DQN主要关注传统DQN学习过程中存在的误差，并想办法减少这些误差。Q(s,a;θi)Q(s,a;\theta_{i})Q(s,a;θi​)表示第i次迭代的值函数，Δi=Q(s,a

本节要详细介绍一些Transformer这个常用的神经网络组件，会举一些十分详细的例子，目的是将这个网络结构讲清楚。TransformerTransformer结构是主要是编码器和解码器组成，Transformer逐渐其实是并且了经典的LSTM循环的机构，使用了一种自注意力的机制。这些我们举一个机器翻译的例子，来讲解整个过程。编码器编码器的主要作用是从输入的语句中尽可能多的提取特征，其结构如图2-

今天这章主要介绍一些聚类算法。

BN(Batch Normalization)BN是深度学习中缓解过拟合的一个非常常见的手段，不仅能有效的解决梯度爆炸的问题，而且加入了BN的网络往往是更加稳定的还具有一定的正则化的作用。梯度饱和问题日常工作中我们经常使用的sigmod激活函数或者tanh激活函数存在饱和的区域，其原因是激活函数输入值过大或者过小，导致的激活函数的梯度接近于0，使得网络收敛过慢。传统的方法是使用Relu激活函数。B

本文主要介绍两类常以网络层形式添加模型结构中，一类是Dropout，一类是归一化。DropoutDropout是当发生过拟合以后，第一个考虑使用的网络结果。在训练、