图表示学习图结构是一个高维稀疏的数据表示，那么图表示学习是将这个高维稀疏的数据映射成低维度稠密的数据，这就是图表示学习的要解决的核心问题。图表示学习一般有两种方式，一种是顶点嵌入，另一种是整图学习。顶点嵌入一般是针对顶点维度，将每个订单映射成一个低维的向量表达，这种方式表达的粒度比较细，一般用于节点层面的预测或者节点分类。整图的表示学习则是针对全图生成一个向量，这种图表示学习方式粒度较粗，一般用于

本节要详细介绍一些Transformer这个常用的神经网络组件，会举一些十分详细的例子，目的是将这个网络结构讲清楚。TransformerTransformer结构是主要是编码器和解码器组成，Transformer逐渐其实是并且了经典的LSTM循环的机构，使用了一种自注意力的机制。这些我们举一个机器翻译的例子，来讲解整个过程。编码器编码器的主要作用是从输入的语句中尽可能多的提取特征，其结构如图2-

这个话题咱们要开启一个新的系列啦，尽可能的讲清楚推荐系统的演变过程，以及其中都需要那些问题，并做出什么样的改动，最终取得什么样的效果。希望你能学到一些历史的基础上，还能思考自己做事情的过程。上面是为数不多能把整个推荐发展过程讲清楚的一张图，接下来的章节中，咱们会按照这个图一点一点的讲清楚技术的发展历程。AutoRec 单隐层神经网络推荐模型AutoRec 模型是一个标准的自编码器，它的基本原理是利

Word2vec将文本转化成向量是nlp中一个比较重要的任务，也是链接nlp和机器学习和深度学习的桥梁，单纯的中文文字，我们是无法直接放到模型中训练的，所以将文本转化为一个向量是我们必须要过的一关。词袋模型（bagofword)词袋模型的思路十分简单，是文本向量化的最简单方法。我们直接举一个例子来了

本节我们还来讲nlp的相关的东西，我们刚刚讲解了如何将word转化为一个vector，其实我们还是没有对语序做一个很好的应用，例如 我给你一个苹果和你给我一个苹果，意义上完全不同，但是识别的时候可能关键词十分相似。所以我们正好讲讲doc2vec的算法，如何充分利用语序信息的。谷歌的工程师提出了DM模型和DBOW模型，其实就是对应咱们word2vec中的CBOW和Skip-gram模型DM（Dist