水熊虫
水熊虫
不认命,就拼命!
264文章 53分类

元学习(五)--MAML算法

今天我们来介绍经典的元学习方法MAML算法,首先我们需要明确MAML算法是用来做什么的呢?其实它主要是解决我们模型参数初始化的问题的,一个好的初始化是可以让我们快速达到全局最优并且训练成本也会骤降的,那么我们来看看MAML算法是怎么做的把?算法讲解这个算法的伪代码十分简单,咱们就对着源代码看看它的训练过程和使用方法。下面就是这个算法的伪代码啦。这里重要的部分分别是4到7行和第8行,双重梯度的思路。

元学习(四)--度量学习(亲和网络学习)

本文我们来介绍一个度量学习方式,取材于论文Learning to Compare: Relation Network for Few-Shot Learning。数据集合度量学习中,数据集不仅仅是我们监督学习的中的训练集合测试集的概念,那我们就来介绍他的数据集。训练集: 和普通的训练集一致,这里存放大量级别带有标签的数据。支撑集合:支撑集合也是带有标签的数据,但是数量量比较小,并且支撑集合的类别与

元学习(零)--预训练神经网络

从本章节开始我们准备进入一个新的领域进行学习,元学习(meta learning),听起来是不是屌屌的,确实是这样,这里我们不得不总结一下之前咱们介绍各种的学习方法,包括经典的学习方法和神经网络的学习方法,毫不意外的它们有一个共同且残酷的名字(Weak AI),是的凡是针对一个特定的一个领域进行学习的,都可以称之为弱学习器。而本章节的介绍的一系列建模方法它们学习的方式和角度与之前的学习方法会有很大

元学习(三)--度量学习(原型神经网络)

原型神经网络我们了解很多深度学习和机器学习的算法,但是有一个痛点,我们要求数据量极大,因为参数量极大,这个时候怎么办?我们还是期望能够使用较少的数据学到更大的信息量,这才是我们的目标,本章节中讲到的就是这类问题的学习方法,我们称之为小样本学习。在本文的最后有一篇讲PrototypicalNetwor
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×