水熊虫
水熊虫
不认命,就拼命!
265文章 53分类

机器学习之好模型

今天来讲一个有趣的话题, 如何训练一个好的模型呢?如果让你训练一个模型, 效果不好, 你会从哪些方面入手呢? 下面我们就一个一个说, 从上到下应该越来天花板越低。特征丰富程度这一节就是我们经常提到的特征工程。特征利用率数据增强程度模型拟合能力模型拟合成本

推荐搜索之LR+GBDT

FFM 模型采用引入特征域的方式增强了模型的特征交叉能力,但无论如何, FFM 只能做二阶的特征交叉,如果继续提高特征交叉的维度,会不可避免地产生 组合爆炸和计算复杂度过高的问题。那么就引入今天要说的新的模型趋势LR+GBDTLR+GBDT模型的结构如图1所示。用 GBDT 构建特征工程,利用 LR 预估 CTR 这两步是独立 训练的,所以不存在如何将 LR 的梯度回传到 GBDT 这类复杂的问题

机器学习之特征选择

特征选择也是机器学习一个比较大的话题,一个好的特征选择,可以简化模型,改善性能减少计算开销,改善通用性减低过拟合分享,接下来就来介绍一些特征选择的方法。过滤方法

xgboost(五) -- 与其他模型融合

之前我们讲了很多xgboost的特性用法等等,接下来我们需要回答的一个问题是xgboost能够与其他模型融合吗?怎么融合?xgboost和DNN模型融合当我们使用xgboost的时候经常会发现,很多场景下我们只用xgboost模型的效果就能够达到一个最佳的效果,使用深度神经网络反而没有xgboost的效果好,这个经常让我们十分头疼,我想做点更nb的东西逻辑就这么难吗?其实个人认为xgboost效果

机器学习之特征工程

预处理预处理是机器学习一个基础问题,但是没有时间将预处理的方式进行整理,这次就将预处理的方式进行部分整理。归一化对于数值类型的特征可以进行归一化操作,而归一化意味着将现有数据整理到某一个范围内。线性函数归一化目标是将所有的数据归一化到[0,1]之间。$$X = \frac{X-X_i}{X_m-X_i}$$$X_m$代表X序列最大值,$X_i$代表X序列的最小值。零均值归一化目的是将原始数据归一化
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×