二阶优化牛顿法

无约束的最优化首先我们来看一个实际问题。一家彩电工程研制了两种产品，一种是19寸的夜景平板电视，建议零售价为339.另一种是21存电视零售价399.公司付出的成本是19寸的195美元，21寸的是225美元，还要加上400000美元的固定成本。在竞争市场中，每年售出彩电的数量会影响彩电的平均价格。据统

拉格朗日乘子拉格朗日乘子在很多机器学习中都提到过，一般都会被一带而过，因为本身理论就比较复杂，这里会拉格朗日乘子的使用做一个简答的介绍，否则SVM这一类凸优化算法根本不可能理解其精髓。在求解最优化问题中,经常用到就是拉格朗日乘子法。在有等式约束时使用拉格朗日乘子法，在有不等约束时使用KKT条件。当你

支持向量机支持向量机，千呼万唤始出来，SVM作为远古时期最接近深度学习的算法，理论想起来比较简单，但是想要理解深刻还是需要花些周章的，这里会尽我所能给出一个比较好解释的方式。SVM应该是第一个解决线性不可分的算法，假如我没有孤陋寡闻的话，这里会介绍基本的SVM原理，高维度经过核函数转换的会提到，但是

交替方向乘子法本文是继拉格朗日乘子以后有一个讲优化算法，建议先读完拉格朗日乘子然后阅读本文效果更佳。首先我们来考虑以下什么是优化问题，它的数学表达是怎么样的，如果阅读了上面这个博客，你能很好的回答的这个问题，最简单的表达实际上就是。$$min_x=f(x)$$其中$x$是优化变量，也就是可以改变的数值，通过调节$x$的大小，使得目标函数$f(x)$的数值达到最小。实际上对于上面的表达式，$min_