今天遇到有一个比较有趣的问题， 我想做一个分类问题，预测用户下单的概率，但是我出了对这个下单的概率感兴趣以外，还对下单的总人数感兴趣，中间可能考虑一些补贴的事宜，这个时候就有一个比较有意思的问题， 对于分类问题我们一般关注AUC即可，那么对于这个场景我是否能只关注AUC呢？因为考虑到下单人数的计数，我也想关注MAE，然后就产生了一个很好的问题， AUC和RMSE是否是完全同向的， 以及我们分类使用

xgboost是非常常用的机器学习框架，本章我们仅仅从应用角度来讲，xgboost到底能干什么，通过其他文章我们再了解它是怎么做的，这个也比较符合我们的认知过程，能干什么和怎么干。二分类问题84,051

K近邻算法K近邻算法是各种机器学习算法中最简单的一个，简单说就是计算分类对象距离已知对象的值。K近邻三要素k值选择分类决策距离度量当k=1时候，K近邻成为最近邻算法。kd树k近邻算法进行近邻搜索的时候是个问题。怎样构造一棵Kd-tree？对于Kd-tree这样一棵二叉树，我们首先需要确定怎样划分左子树和右子树，即一个K维数据是依据什么被划分到左子树或右子树的。在构造1维BST树时，一个1维数据根据

模型的评估错误率错误率指的的是分类错误的样本数占总样本的比例精度精度指的是分类正确的样本数占总样本的比例。查准率和查全率错误率和精度虽然常用，但是对于某些问题来说并不能完全的评估一个模型好坏。下面来看一个混淆矩阵然后来说明我们我概念。查准率的定义为：$$P=\frac{TP}{TP+FP}$$查全率

贝叶斯分类器贝叶斯分类器的特点属性可以离散可以连续数学基础扎实，分类效率稳定对缺失值和噪声不敏感属性如果不相关（独立），效果很好，如果相关效果不低于决策树。原理设样本$\vec{x}=x_1,x_2...x_n$， 标记$y \in Y=\{ c_1, c_2,...,c_k\}$,P(X, Y)是X，Y的组合概率分布。训练集合$T=\{(\vec{x_1},y_1),(\vec{x_2,y_2)