#线性规划前面铺垫了不少，接下来咱们来看看都怎么解这一堆方程。矩阵概念1.如果矩阵E是由单位阵I经过交换矩阵的两行得到的，就是第一类矩阵2.如果E是由单位阵乘以一个数得到，就叫做第二类矩阵3.如果E是由单位阵乘以一个数再加到另一行得到的，就叫做第三类矩阵。定理：对一个矩阵进行第一类、第二类、第三类变

拉格朗日乘子拉格朗日乘子在很多机器学习中都提到过，一般都会被一带而过，因为本身理论就比较复杂，这里会拉格朗日乘子的使用做一个简答的介绍，否则SVM这一类凸优化算法根本不可能理解其精髓。在求解最优化问题中,经常用到就是拉格朗日乘子法。在有等式约束时使用拉格朗日乘子法，在有不等约束时使用KKT条件。当你

支持向量机支持向量机，千呼万唤始出来，SVM作为远古时期最接近深度学习的算法，理论想起来比较简单，但是想要理解深刻还是需要花些周章的，这里会尽我所能给出一个比较好解释的方式。SVM应该是第一个解决线性不可分的算法，假如我没有孤陋寡闻的话，这里会介绍基本的SVM原理，高维度经过核函数转换的会提到，但是