Thu Jun 18

运筹规划

数学之凸优化(四)

#线性规划前面铺垫了不少，接下来咱们来看看都怎么解这一堆方程。矩阵概念1.如果矩阵E是由单位阵I经过交换矩阵的两行得到的，就是第一类矩阵2.如果E是由单位阵乘以一个数得到，就叫做第二类矩阵3.如果E是由单位阵乘以一个数再加到另一行得到的，就叫做第三类矩阵。定理：对一个矩阵进行第一类、第二类、第三类变

Thu Jun 18

运筹规划

数学之凸优化(三)

#线性规划本节开始我们就来讲解线性规划问题。看看我们该如何解决带有条件约束的最优解问题。线性规划简单例子先从实际问题出发，让我们来了解一下我们将要解决的那种问题？某制造商生产四种不同的产品，分别用X1，X2，X3，X4来表示，生产过程需要三种原料，其中工作人数和原料等参数如下表，问题当然就是如何保证

Thu Jun 18

运筹规划

数学之凸优化(二)

#梯度本节我们来讲梯度方法，非常常用的最优化方法。这个概念我们应该都是理解的，梯度就是一个方向，就是$f(x)$变化最大的方向，沿着这个方向，我们更加可能获取一个极值。下面介绍一种梯度下降的方法最速下降法追速下降法是梯度方法的一个具体实现，其理论为每次迭代中选择合适的步长使得目标函数能够最大程度的减

Thu Jun 18

运筹规划

数学之凸优化(一)

#凸优化本章我们主要讲解一维的搜索方法，也是最优化理论的一部分，我们怎么在一个区间内找到找到一个极值呢？我们先来讨论一元单值函数的$f$,在区间$[a,b]$上的极小值点呢？二分法二分法是一种利用目标函数的一阶导数来连续压缩区间的方法，计算过程比较简单。首先，确定初始区间的中点$$x=\frac{a

Thu Jun 18

线性代数

数学之协方差矩阵

协方差矩阵在很多论文中都会提到协方差矩阵的概念，如果你不知道协方差矩阵是怎么来的就很难看懂论文，本文会介绍协方差矩阵是如何计算的？首先我们来说下协方差，协方差是衡量两列特征的相关度的，但是协方差矩阵又是什么呢？我们先来看协方差是如何计算的？$$COV(X, Y)=E[(X-\mu_x)(Y-\mu_y)]$$协方差矩阵的定义矩阵中的数据按行排列与按列排列求出的协方差矩阵是不同的，这里默认数据是按

Thu Jun 18

高等数学统计学

数学建模

无约束的最优化首先我们来看一个实际问题。一家彩电工程研制了两种产品，一种是19寸的夜景平板电视，建议零售价为339.另一种是21存电视零售价399.公司付出的成本是19寸的195美元，21寸的是225美元，还要加上400000美元的固定成本。在竞争市场中，每年售出彩电的数量会影响彩电的平均价格。据统

Thu Jun 18

高等数学

拉格朗日乘子

拉格朗日乘子拉格朗日乘子在很多机器学习中都提到过，一般都会被一带而过，因为本身理论就比较复杂，这里会拉格朗日乘子的使用做一个简答的介绍，否则SVM这一类凸优化算法根本不可能理解其精髓。在求解最优化问题中,经常用到就是拉格朗日乘子法。在有等式约束时使用拉格朗日乘子法，在有不等约束时使用KKT条件。当你

Thu Jun 18

高等数学人工智能深度学习图像算法

图像算法--卷积

卷积CNN已经成为图片分类比较成熟的算法，但是，很少人了解其中的数学原理，这里就先从卷积讲起，后面也会主要到卷积神经网络。希望大家能够很好的理解这个内容，为了以后学习卷积神经网络做准备。卷积的定义连续下的定义$$(f*g)(n)=\intf(t)g(n-t)$$离散下的定义$$(f*g)(n)=\s

Thu Jun 18

线性代数

数学之矩阵

基础概念矩阵在机器学习算法中经常作为辅助计算的存在，除此以外矩阵论本身就是一门独立的学科，在推荐场景下使用尤其广泛，这里有机会从头看看矩阵的相关知识，分享给代价，勾起大学的青葱回忆？本节中我们将介绍一些矩阵的基础知识，和一些常用的表达，其实我们经常看论文会发现一些表达上比较生涩，我们很难看懂，导致我

Thu Jun 18

线性代数

点积和叉积

点积当我们读一些论文或是一些机器学习的书籍的时候重视感觉有些数学上的结论模糊不清，最后弄得我们也并不是很懂算法其中的数学道理，本系列文章将着重讲解一些基础数学的知识。点积是一个标量，也就是一个数字，如果给出两个向量$A=<a_1,a_2,...,a_n>$$B=<b_1,b_2,.

数学之凸优化(四)

数学之凸优化(三)

数学之凸优化(二)

数学之凸优化(一)

数学之协方差矩阵

数学建模

拉格朗日乘子

图像算法--卷积

数学之矩阵

点积和叉积

分类

标签云

最新文章

标签

最新文章

Your browser is out-of-date!