对于梯度相信大家都不陌生，咱们经常把它翻译成导数。那么咱们就先来看看在梯度下降中导数是怎么起到作用的。导数一阶导数十分好理解，一阶导数是表示原函数的一个斜率信息，而二阶导数是告诉我们一阶导数随着输入是如何变化的，可以认为二阶导数是对曲率的衡量。如果这样的函数具有零二阶导数，那就没有曲 率，也就是一条完全平坦的线，仅用梯度就可以预测它的值。也就是是当学习率是$\alpha$的时候，每次沿着梯度负方向

本章节中我们来介绍一个具有适应能力的神经网络学习框架CSN，接下来咱们就来看看这个网络是如何学习的。网络整体架构上面这个图是整个学习框架的整体架构，接下来我们来一点一点的讲解其中的细节。假设我们一大批数据的训练任务已经训练好，突然来了一个新的任务，怎么把我们已经训练好的网络进行一定的复用快速的应用到新任务呢？这就是本文一个要解决的问题。$$\begin{cases}\begin{align}\en

什么是表示学习呢？说白了就是特征，机器学习算法的性能严重依赖特征。如果存在一种可以从数据中的到和判别特征的方法们就会减少机器学习对特征工程的依赖，这就是表示学习。离散表示这里虽然咱们单独拿出来讨论，但是其实特征的离散表示十分简单，就是独热编码，但是独热编码的缺点也是十分明显的。在向量空间中，所有的对

rnn对于一些初学者来说被当成直接跳过的内容，因为如果需要使用RNN，那还不如直接用LSTM，好吧这个思路貌似也没什么问题，但是对于学习这件事情来讲的话，其实RNN是一个新型的网络结构，跳出神经网络的那个固定模式的开始，对大家学习还是有百利而无一害的。拆了的RNN[RNN]的经典过程本站也做过讲解，可以跳转过去看看完全的RNN样子，本节就是要将这一结构拆开来看的。上图就是其中一个RNN结构，初始化

卷积CNN已经成为图片分类比较成熟的算法，但是，很少人了解其中的数学原理，这里就先从卷积讲起，后面也会主要到卷积神经网络。希望大家能够很好的理解这个内容，为了以后学习卷积神经网络做准备。卷积的定义连续下的定义$$(f*g)(n)=\intf(t)g(n-t)$$离散下的定义$$(f*g)(n)=\s

LSTM神经网络RNN的结构开始为了我们能够对比出两种网络的异同，我们还是给出一个泛化的简图。可以清楚看到整个网络虽然叠加多个神经元，但是每个神经元的处理逻辑单一，很容易将信息丢失。LSTM这个时候我们来进入LSTM的认识。LSTM同样是这样的结构，但是重复的模块拥有一个不同的结构。不同于单一神经网络层，这里是有四个，以一种非常特殊的方式进行交互。上面的图并不陌生，很多博客都能见得到，十分权威的一

神经网络神经网络是比较初级的一个深度学习模型，但是它的变形有很多种，因为其不可解释的特性，也给这种模型蒙上一层面纱，本章就讲解这个神经网络。下图就是一个简单的神经网络的结构，从整体上看分为输入层、隐藏层、输出层。损失函数首先要确定损失函数是凸函数还是非凸函数，如果是凸函数，那么将会不依赖选取的初始值