本文主要讲解使用梯度下降算法迭代熟悉的MSE损失函数。J(θ)=E[(y−θTx)2]=σy2−2θTp+θTϕθJ(\theta)=E[(y-\theta^{T}x)^{2}] \\=\sigma_{y}^{2}-2\theta^{T}p + \theta^{T} \phi \thetaJ(θ)=E[(y−θTx)2]=σy2​−2θTp+θTϕθMSE可以看上面这个博文了解上面这个公式。其中ϕ

本文想介绍一下MSE这个优化函数，通过MSE这个损失函数来看机器学习中一些底层的理论。标准方程J(θ)=E[(y−y^)2](1.1)J(\theta)=E[(y-\hat{y})^{2}] \tag{1.1}J(θ)=E[(y−y^​)2](1.1)公式1.1是均方误差的一个简单的表示，很明显我们就是要求的一个参数能够使得J(θ)J(\theta)J(θ)最小。最小化的代价函数J(θ)J(\th

协方差矩阵在很多论文中都会提到协方差矩阵的概念，如果你不知道协方差矩阵是怎么来的就很难看懂论文，本文会介绍协方差矩阵是如何计算的？首先我们来说下协方差， 协方差是衡量两列特征的相关度的，但是协方差矩阵又是什么呢？我们先来看协方差是如何计算的？$$COV(X, Y)=E[(X-\mu_x)(Y-\mu_y)]$$协方差矩阵的定义矩阵中的数据按行排列与按列排列求出的协方差矩阵是不同的，这里默认数据是按

数据降维数据对于算法工程师来说可以说是无限复杂的，而这个复杂我们是不可能预估的，聪明而又懒惰嗯数据科学家发明一种方法叫做降维，不管你有多少维，维就要处理20维，所以这就是数据降维的由来，本文会介绍一种非常普通且好使的数据降维的方法--PCA数据降维是机器学习下比较热门的一个话题，在数据挖掘的领域我们