Sun Jan 8

人工智能机器学习

可解释性机器学习(一)--内部解释模型

咱们继续讲解可解释性机器学习，咱们开始一起来看看一些算法啦。先从简单的算法开始。

Sun Jan 8

人工智能机器学习

可解释性机器学习(零)

这个系列介绍一下模型的可解释性，这一部分经常被算法同学忽略掉，其实也经常有同学不被其他的业务线理解，感觉算法同学是不是在撞大运。是否真的能对自己学习出来的模型负责。为什么要有模型解释性这个时候你是否会问，我模型效果好就行呗，为啥还要搞这个可解释性，有那个功夫我多做几个模型是不是就好了。其实这个是一个好的问题，算法同学对业务的产出只能是模型吗，模型数量代表工作量吗？这个也是我之前错误认知的理念。目

Mon Jun 6

机器学习

机器学习之L1正则化

本文咱们来看下L1正则化的深入分析。L1正则化的表达形式如下$$||w||_{1}=\sum_{i} |w_{i}|$$通过上面的计算方式能够看出L1正则化的计算方式是将所有权重的绝对值求和。接下来还是从线性回归中看L1正则化的影响。$$\bar{J}(w;X;y)=\alpha ||w||_{1} + J(w; X;y)$$对应的梯度为$$\triangledown_{w} \bar{J}(w;

Sun Jun 5

机器学习

机器学习之L2正则化

之前有一篇博客已经讲解了正则化的一些知识，本文就深入一层看看每一种正则化到底对目标函数做了什么，让大家能够更加深入的了解正则化。现在介绍L2正则化的深入分析。L2参数正则化首先来看下带有正则化的损失函数。$$\bar{J(w;X;y)}=\frac{\alpha}{2}w^{t}w+J(w;X;y) \tag{1.1}$$对应的梯度为$$\triangledown \bar{J(w;X;y)}=\

Sun Jun 5

机器学习

机器学习之损失函数&评估函数

对数损失对数损失是对预测概率的似然估计，标准形式如下$$logloss=-log\ P(Y|X)$$对数损失最小化的本质是利用样本的已知分布，求解导致这种分布的最佳模型参数，使得这种分布出现的概率最大。它的二分类形式为$$logloss=-\frac{1}{N} \sum_{i=1}^{N} (y*log^{p_{i}}+(1-y)*log^{p_{i}})$$logloss衡量的是预测概率分布和

Sat Apr 9

机器学习

机器学习之特征选择

特征选择也是机器学习一个比较大的话题，一个好的特征选择，可以简化模型，改善性能减少计算开销，改善通用性减低过拟合分享，接下来就来介绍一些特征选择的方法。过滤方法

Mon Oct 11

机器学习

xgboost(六) -- 自定义损失函数

之前的章节中我们知道，xgboot是可以根据不同场景自定义损失函数的，如果我有一个损失函数，那么我究竟如何通过自定义的方式给到xgb呢，以及我最终的一阶导数和二阶导数到底是相对谁而言的呢？自定义损失函数这里我通过一个完整的例子来看看如果我有一个损失函数，怎么使用到我的xgboost模型的。我们来看

Sat Jul 17

机器学习

xgboost(四) --线性模型

XGBoost不仅实现了以CART为基础的树模型，还实现了一个以ElasticNet和并行坐标下降为基础的线性模型，此时XGBoost相当于一个同时带有L1正则和L2正则的逻辑回归（分类问题）或者线性回归（回归问题）。通过对前面章节的学习，我们对XGBoost的树模型有了一个比较深入的理解。本节将介绍XGBoost线性模型的实现原理。ElasticNet回归在统计学模型中，回归分析是评估变量间关系

Thu Jul 15

机器学习计算机基础

xgboost(零)--使用基础

xgboost是非常常用的机器学习框架，本章我们仅仅从应用角度来讲，xgboost到底能干什么，通过其他文章我们再了解它是怎么做的，这个也比较符合我们的认知过程，能干什么和怎么干。二分类问题84,051

Sun Apr 11

机器学习计算机基础

xgboost(二)之Gradient Boosting

由前述内容可知，XGBoost是由多棵决策树（即CART回归树）构成的，那么多棵决策树是如何协作的呢？此时便用到了Boosting技术。Boosting的基本思想是将多个弱学习器通过一定的方法整合为一个强学习器。在分类问题中，虽然每个弱分类器对全局的预测准确率不高，但可能对数据某一方面的预测准确率非常高，将很多局部预测准确率非常高的弱分类器进行组合，即可达到全局预测准确率高的强分类器的效果。Ada

可解释性机器学习(一)--内部解释模型

可解释性机器学习(零)

机器学习之L1正则化

机器学习之L2正则化

机器学习之损失函数&评估函数

机器学习之特征选择

xgboost(六) -- 自定义损失函数

xgboost(四) --线性模型

xgboost(零)--使用基础

xgboost(二)之Gradient Boosting

分类

标签云

最新文章

标签

最新文章

Your browser is out-of-date!