从本章节开始我们准备进入一个新的领域进行学习，元学习（meta learning），听起来是不是屌屌的，确实是这样，这里我们不得不总结一下之前咱们介绍各种的学习方法，包括经典的学习方法和神经网络的学习方法，毫不意外的它们有一个共同且残酷的名字(Weak AI)，是的凡是针对一个特定的一个领域进行学习的，都可以称之为弱学习器。而本章节的介绍的一系列建模方法它们学习的方式和角度与之前的学习方法会有很大

上篇文章咱们介绍了Qlearning，这个时候正好我们就机会来详细看看DQN的学习方式，同样的之前的章节中我们介绍了DQN的原理，但是没有一个特别好的例子，本节咱们就来补上这一块。DQN的使用场景就是我们发现使用Qlearning能够在离散状态空间下解决任何强化学习问题，但是如果状态空间是无限的或者是连续的怎么办呢？ DQN的核心思路是将原有的离散状态空间表示为一个函数f。$$f(s,a)=Q(s

seq2seq处理人工翻译的时候会有一个问题，就是当句子特别长的时候问你会发现翻译的效果并不是特别好，至于原因呢就是seq2seq学习的时候对信息遗忘严重，为了解决这个问题，就有研究者提出了加入Attention的机制来解决这个问题，核心就是我们在解决一个问题的时候只关注某些关键信息就够了，并不要全

rnn对于一些初学者来说被当成直接跳过的内容，因为如果需要使用RNN，那还不如直接用LSTM，好吧这个思路貌似也没什么问题，但是对于学习这件事情来讲的话，其实RNN是一个新型的网络结构，跳出神经网络的那个固定模式的开始，对大家学习还是有百利而无一害的。拆了的RNN[RNN]的经典过程本站也做过讲解，可以跳转过去看看完全的RNN样子，本节就是要将这一结构拆开来看的。上图就是其中一个RNN结构，初始化

如果想了解GAE其实从VAE了解比较好，下面我就先来讲讲VAE自编码器。VAEVAE(VariationalAuto-encoder)图自编码器，是一种和GAN类似的神经网络。那么VAE有什么作用？它主要的解决问题的场景是，你给我一个向量，我给你一张图片，例如我想生成一个猫的图片，你的输入可以是描述

多层感知机​首先我们来介绍多层感知机，其实根据字面的意思我们已经能够了解大半，就是将一个简单的感知机进行连接，其中层数可以任意挑选，中的维度都可以任意挑选。它的样式是这样的。结构比较简单，输入层进来以后就和隐藏层进行权重转换，直到输出层。它的激活函数不是我们在我们的系统上搜索[感知机]的文章中提到的

最优化方法优化方法是深度学习中一个比较重要的话题，其实他的知识来自于最优化理论，如果想详细关注这个话题建议读一下最优化理论这本书，注意本书仅供参考，请误商业使用。本文将介绍常用的最优化方法，梯度下降法，牛顿法，拟牛顿法和共轭梯度法。梯度下降法梯度下降法是我们接触最多的方法，在目标函数是凸函数的时候我们能得到全局最优解。对于一个函数$f(x)$,它的梯度$f'(x)$是$f(x)$的梯度，对于足够小

LSTM神经网络RNN的结构开始为了我们能够对比出两种网络的异同，我们还是给出一个泛化的简图。可以清楚看到整个网络虽然叠加多个神经元，但是每个神经元的处理逻辑单一，很容易将信息丢失。LSTM这个时候我们来进入LSTM的认识。LSTM同样是这样的结构，但是重复的模块拥有一个不同的结构。不同于单一神经网络层，这里是有四个，以一种非常特殊的方式进行交互。上面的图并不陌生，很多博客都能见得到，十分权威的一

神经网络神经网络是比较初级的一个深度学习模型，但是它的变形有很多种，因为其不可解释的特性，也给这种模型蒙上一层面纱，本章就讲解这个神经网络。下图就是一个简单的神经网络的结构，从整体上看分为输入层、隐藏层、输出层。损失函数首先要确定损失函数是凸函数还是非凸函数，如果是凸函数，那么将会不依赖选取的初始值

卷积神经网络CNN已经成为图片分类比较成熟的算法，在上一节中我们介绍了卷积，可以在本站点搜索卷积，就能看到卷积的相关介绍，这下可以趁热打铁进入CNN的学习。卷积核上一个文章中我们了解到卷积，下面咱们就来理解一下卷积核了。卷积核的表达式$$f=wx+b$$很简单吧，这就是一个线性关系的表达。咱们来看个