Tue Jan 25

元学习

元学习(六)--孪生神经网络

今天我们来介绍一种比较特殊的网络，孪生神经网络。这也是实现元学习的一种常见的方式。我们先来抛出一个问题，目前市面上人脸识别的应用十分多，那么它们是怎么做到的呢？如果让你来做一个人脸识别的应用，你怎么来实现这个算法呢？第一时间你的的想法是不是老子搞它每个人N多的数据集，然后弄个M分类，这样每次就变成一个图片识别的任务，easy。想想其实也是可以的，但是似乎不太符合时间，哪里弄来这么多的人的样本呢？话

Fri Jan 21

元学习

元学习(五)--MAML算法

今天我们来介绍经典的元学习方法MAML算法，首先我们需要明确MAML算法是用来做什么的呢？其实它主要是解决我们模型参数初始化的问题的，一个好的初始化是可以让我们快速达到全局最优并且训练成本也会骤降的，那么我们来看看MAML算法是怎么做的把？算法讲解这个算法的伪代码十分简单，咱们就对着源代码看看它的训练过程和使用方法。下面就是这个算法的伪代码啦。这里重要的部分分别是4到7行和第8行，双重梯度的思路。

Tue Jan 18

元学习

元学习(四)--度量学习(亲和网络学习)

本文我们来介绍一个度量学习方式，取材于论文Learning to Compare: Relation Network for Few-Shot Learning。数据集合度量学习中，数据集不仅仅是我们监督学习的中的训练集合测试集的概念，那我们就来介绍他的数据集。训练集：和普通的训练集一致，这里存放大量级别带有标签的数据。支撑集合：支撑集合也是带有标签的数据，但是数量量比较小，并且支撑集合的类别与

Sun Jan 16

元学习

元学习(二)--元学习和AutoML学习

本章咱们就不介绍一篇论文这么枯燥啦，由于元学习和AutoML学习经常会被弄混，所以本章主要就聊聊这两种学习方式的异同点。早期的时候这两种学习方式确实是比较相近的，甚至有一些争议，最近的研究中这这两种学习方式也开始越来越清晰。元学习是解决对于未知类别的识别上，而AutoML的目标是如何自动化的构建网络参数和网络形状等等。所以二者的目标已经被却分好啦。元学习之前咱们已经介绍了两个算法啦，下面咱们就好好

Sun Jan 16

元学习

元学习(一)--自适应神经网络

本章节中我们来介绍一个具有适应能力的神经网络学习框架CSN，接下来咱们就来看看这个网络是如何学习的。网络整体架构上面这个图是整个学习框架的整体架构，接下来我们来一点一点的讲解其中的细节。假设我们一大批数据的训练任务已经训练好，突然来了一个新的任务，怎么把我们已经训练好的网络进行一定的复用快速的应用到新任务呢？这就是本文一个要解决的问题。$$\begin{cases}\begin{align}\en

Wed Jan 12

元学习

元学习(零)--预训练神经网络

从本章节开始我们准备进入一个新的领域进行学习，元学习（meta learning），听起来是不是屌屌的，确实是这样，这里我们不得不总结一下之前咱们介绍各种的学习方法，包括经典的学习方法和神经网络的学习方法，毫不意外的它们有一个共同且残酷的名字(Weak AI)，是的凡是针对一个特定的一个领域进行学习的，都可以称之为弱学习器。而本章节的介绍的一系列建模方法它们学习的方式和角度与之前的学习方法会有很大

Thu Jun 18

元学习

元学习(三)--度量学习(原型神经网络)

原型神经网络我们了解很多深度学习和机器学习的算法，但是有一个痛点，我们要求数据量极大，因为参数量极大，这个时候怎么办？我们还是期望能够使用较少的数据学到更大的信息量，这才是我们的目标，本章节中讲到的就是这类问题的学习方法，我们称之为小样本学习。在本文的最后有一篇讲PrototypicalNetwor

元学习(六)--孪生神经网络

元学习(五)--MAML算法

元学习(四)--度量学习(亲和网络学习)

元学习(二)--元学习和AutoML学习

元学习(一)--自适应神经网络

元学习(零)--预训练神经网络

元学习(三)--度量学习(原型神经网络)

分类

标签云

最新文章

标签

最新文章

Your browser is out-of-date!