Sat Mar 18

人工智能机器学习

机器学习之MSE

本文想介绍一下MSE这个优化函数，通过MSE这个损失函数来看机器学习中一些底层的理论。标准方程J(θ)=E[(y−y^)2](1.1)J(\theta)=E[(y-\hat{y})^{2}] \tag{1.1}J(θ)=E[(y−y^)2](1.1)公式1.1是均方误差的一个简单的表示，很明显我们就是要求的一个参数能够使得J(θ)J(\theta)J(θ)最小。最小化的代价函数J(θ)J(\th

Thu Feb 16

机器学习

样本不均之损失函数

首先我们还是要从交叉熵的损失函数说起，如公式1.1L=−ylog(p)−(1−y)log(1−p)(1.1)L=-y log(p)-(1-y)log(1-p) \tag{1.1}L=−ylog(p)−(1−y)log(1−p)(1.1)p为预测概率，y是真实标签。\begin{equation}L(CE)=\left\{\begin{array}{ll}-log(p) \\-log(1-0) \\

Thu Feb 16

机器学习

样本不均之标签平滑

背景标签平滑产生的背景是当我们的标注数据不能保证100%的准确性的时候，导致训练过程中过度的信赖标注，对训练效果产生比较大的影响。这个时候我们一般选用标签平滑的方式缓解这种问题。

Sun Jan 8

人工智能机器学习

可解释性机器学习(二)--内部解释模型

本文来介绍精度更高的内部解释模型GAMI-Net。GAMI-NetGAMI-Net模型在广义加性模型的基础上，引入了神经网络与特征交互的信息，同时增加了稀疏性、遗传限制、边界清晰度的准则，这使得模型的精度和解释性得到进一步的提升。模型定义传统的广义加性模型对每个特征会拟合一个光滑函数sj(X)s_{j}(X)sj(X)，再将各个sj(X)s_{j}(X)sj(X)的结果累加得到最终结果，sj(

Sun Jan 8

人工智能机器学习

可解释性机器学习(一)--内部解释模型

咱们继续讲解可解释性机器学习，咱们开始一起来看看一些算法啦。先从简单的算法开始。

Sun Jan 8

人工智能机器学习

可解释性机器学习(零)

这个系列介绍一下模型的可解释性，这一部分经常被算法同学忽略掉，其实也经常有同学不被其他的业务线理解，感觉算法同学是不是在撞大运。是否真的能对自己学习出来的模型负责。为什么要有模型解释性这个时候你是否会问，我模型效果好就行呗，为啥还要搞这个可解释性，有那个功夫我多做几个模型是不是就好了。其实这个是一个好的问题，算法同学对业务的产出只能是模型吗，模型数量代表工作量吗？这个也是我之前错误认知的理念。目

Mon Jun 6

机器学习

机器学习之L1正则化

本文咱们来看下L1正则化的深入分析。L1正则化的表达形式如下$$||w||_{1}=\sum_{i} |w_{i}|$$通过上面的计算方式能够看出L1正则化的计算方式是将所有权重的绝对值求和。接下来还是从线性回归中看L1正则化的影响。$$\bar{J}(w;X;y)=\alpha ||w||_{1} + J(w; X;y)$$对应的梯度为$$\triangledown_{w} \bar{J}(w;

Sun Jun 5

机器学习

机器学习之L2正则化

之前有一篇博客已经讲解了正则化的一些知识，本文就深入一层看看每一种正则化到底对目标函数做了什么，让大家能够更加深入的了解正则化。现在介绍L2正则化的深入分析。L2参数正则化首先来看下带有正则化的损失函数。$$\bar{J(w;X;y)}=\frac{\alpha}{2}w^{t}w+J(w;X;y) \tag{1.1}$$对应的梯度为$$\triangledown \bar{J(w;X;y)}=\

Sun Jun 5

机器学习

机器学习之损失函数&评估函数

对数损失对数损失是对预测概率的似然估计，标准形式如下$$logloss=-log\ P(Y|X)$$对数损失最小化的本质是利用样本的已知分布，求解导致这种分布的最佳模型参数，使得这种分布出现的概率最大。它的二分类形式为$$logloss=-\frac{1}{N} \sum_{i=1}^{N} (y*log^{p_{i}}+(1-y)*log^{p_{i}})$$logloss衡量的是预测概率分布和

Sat Apr 9

机器学习

机器学习之特征选择

特征选择也是机器学习一个比较大的话题，一个好的特征选择，可以简化模型，改善性能减少计算开销，改善通用性减低过拟合分享，接下来就来介绍一些特征选择的方法。过滤方法

机器学习之MSE

样本不均之损失函数

样本不均之标签平滑

可解释性机器学习(二)--内部解释模型

可解释性机器学习(一)--内部解释模型

可解释性机器学习(零)

机器学习之L1正则化

机器学习之L2正则化

机器学习之损失函数&评估函数

机器学习之特征选择

分类

标签云

最新文章

标签

最新文章

Your browser is out-of-date!