最小二乘法的目标：求误差的最小平方和。对应有两种模型：线性模型和非线性模型。如果矩阵是可逆的，线性模型最小二乘的解是closed-form（闭式解）即而非线性最小二乘没有closed-form（闭式解），通常用迭代法求解。其中有很多比较有名的迭代法，如梯度下降法(又分为批梯度下

这篇文章和大家聊聊矩阵的初等变换和矩阵的秩。矩阵的初等变换这个概念可能在很多人听来有些陌生，但其实我们早在初中的解多元方程组的时候就用过它。只不过在课本当中，这种方法叫做消元法。我们先来看一个课本里的例子：假设我们要解这个方程，怎么做呢？首先，我们把(1)式