Sat Apr 8

人工智能机器学习深度学习

神经网络之Dropout

本文主要介绍两类常以网络层形式添加模型结构中，一类是Dropout，一类是归一化。DropoutDropout是当发生过拟合以后，第一个考虑使用的网络结果。在训练、

Sat Apr 8

人工智能深度学习图像基础

图像算法--骨架网络(三)

iGPT最近ChatGPT突然间火了起来，其实图像领域也有类似的模型，叫做iGPT。不仅在图像识别还有在图像补全上都起到很好地作用。

Fri Apr 7

人工智能深度学习图像基础

图像算法--骨架网络(二)

本节继续来介绍新的网络结构SENet网络SENet的提出动机十分简单。传统的方法将网络的特征图的值直接传递到下一层，而SENet的核心是建模通道之间的依赖关系，通过网络的全局损失函数自适应的重新校正通道之间的特征的相应的强度。SENet是由一系列的SE块组成，一个SE块包括压缩和激发两个步骤，其中压缩是通过特征图上执行全局平均池化得到当前特征图的全局压缩特征向量，特征图通过两层全连接得到特征图中每

Wed Apr 5

人工智能深度学习图像基础

图像算法--骨架网络(一)

今天来讲一种更深的CNN网络，VGG神经网络。更深的网络：VGG神经网络VGG在卷积核方向最大的改进是将卷积核全部更换成了3×3,1×13 \times 3,1 \times 13×3,1×1的卷积核，而性能最好的VGG-16和VGG-19是由仅仅3×33 \times 33×3的卷积核构成，这样做的原因主要有以下几个方面根据感受野的计算方式rfsize=(out−1)×stride×ksizer

Mon Mar 20

人工智能机器学习

机器学习之MSE的梯度下降

本文主要讲解使用梯度下降算法迭代熟悉的MSE损失函数。J(θ)=E[(y−θTx)2]=σy2−2θTp+θTϕθJ(\theta)=E[(y-\theta^{T}x)^{2}] \\=\sigma_{y}^{2}-2\theta^{T}p + \theta^{T} \phi \thetaJ(θ)=E[(y−θTx)2]=σy2−2θTp+θTϕθMSE可以看上面这个博文了解上面这个公式。其中ϕ

Sat Mar 18

人工智能机器学习

机器学习之MSE

本文想介绍一下MSE这个优化函数，通过MSE这个损失函数来看机器学习中一些底层的理论。标准方程J(θ)=E[(y−y^)2](1.1)J(\theta)=E[(y-\hat{y})^{2}] \tag{1.1}J(θ)=E[(y−y^)2](1.1)公式1.1是均方误差的一个简单的表示，很明显我们就是要求的一个参数能够使得J(θ)J(\theta)J(θ)最小。最小化的代价函数J(θ)J(\th

Sun Feb 26

因果推断

因果推断(十九)--反事实

学习了很长时间的因果知识，人们经常想通过因果关系的发现，尽可能的解答反事实的问题，那么什么是反事实呢？白话的表达是，当你做了动作A以后，如果不做会有什么样的后果就是一种因果表达。例如“如果选择复读，是否能考上清华的问题？”反事实因果模型我们先来介绍因果模型的一种形式化的定义。因果模型是一个三元组的模型，M=<U,V,F>M=<U,V,F>M=<U,V,F>.

Sun Feb 26

人工智能自然语言处理

自然语言处理之循环神经网络

今天咱们通过自然语言处理的视角重新看循环神经网络这一模型。模型结构

Thu Feb 16

机器学习

样本不均之损失函数

首先我们还是要从交叉熵的损失函数说起，如公式1.1L=−ylog(p)−(1−y)log(1−p)(1.1)L=-y log(p)-(1-y)log(1-p) \tag{1.1}L=−ylog(p)−(1−y)log(1−p)(1.1)p为预测概率，y是真实标签。\begin{equation}L(CE)=\left\{\begin{array}{ll}-log(p) \\-log(1-0) \\

Thu Feb 16

机器学习

样本不均之标签平滑

背景标签平滑产生的背景是当我们的标注数据不能保证100%的准确性的时候，导致训练过程中过度的信赖标注，对训练效果产生比较大的影响。这个时候我们一般选用标签平滑的方式缓解这种问题。

Fri Jan 27

人工智能深度学习图像基础

图像算法-图像的预处理

图像算法能够能够取得比较好的效果十分依赖预处理做的好坏，这里介绍几种图像预处理的算法、二值化二值化是指将像素点的灰度值设置为0或者255的过程，使图像呈现明显的黑白效果。一方面可以减少数据的维度，另一方面可以通过排除原图中噪声带来的干扰，凸显轮廓信息，这种方法在OCR（文字识别）的任务中尤为重要。全局阈值法该方法是对输入的图形中所有的像素点统一进行固定阈值的。然后重构整个图像。图下图的形式。上图是

Sun Jan 15

人工智能深度学习图神经网络

图神经网络(五)--注意力机制

注意力机制主要是解决当处理大量信息的时候，注意力机制会选择一些关键的信息进行处理，忽略与目标无关的噪声数据，从而提高神经网络的效果。注意力机制注意力机制基本包括三个要素，请求，键，值，如图1-1就是一个软性的注意力机制。（K，V）是输入的键值对向量数据，包含n项信息，每一项信息的建用kik_{i}ki表示，值用xix_{i}xi表示，Q表示与任务相关的查询向量。Value是在给定值的情况，通

神经网络之Dropout

图像算法--骨架网络(三)

图像算法--骨架网络(二)

图像算法--骨架网络(一)

机器学习之MSE的梯度下降

机器学习之MSE

因果推断(十九)--反事实

自然语言处理之循环神经网络

样本不均之损失函数

样本不均之标签平滑

图像算法-图像的预处理

图神经网络(五)--注意力机制

最新文章

分类

标签云

最新文章

标签

Your browser is out-of-date!