最小二乘法（Least Squares Method）是一种数学统计方法，其原理是通过最小化误差的平方和来寻找数据的最佳函数匹配。具体来说，它试图找到一条函数曲线（通常是一条直线或平面），使得所有数据点到这条曲线的垂直偏差（即误差）的平方和最小。
在回归分析中，最小二乘法被广泛应用于确定线性方程的系数，这些系数使得观测数据与实际拟合值之间的误差平方和最小。这种方法假定误差项（即实际观测值与预测值之间的差异）是独立同分布的，并且遵循正态分布（即高斯分布）。
最小二乘法可以分为线性最小二乘法和非线性最小二乘法。线性最小二乘法适用于线性模型，而非线性最小二乘法则用于更复杂的非线性模型。在实际应用中，最小二乘法不仅用于线性回归，还广泛用于参数估计、系统识别等领域。
此外，根据数据点的权重是否相等，最小二乘法还可以进一步细分为普通最小二乘法（OLS）和加权最小二乘法（WLS）。在OLS中，所有数据点的权重相同，而在WLS中，不同数据点可能有不同的权重，这通常用于处理异方差性问题。
总之，最小二乘法是一种寻找最佳拟合函数或模型参数的方法，通过最小化误差的平方和来实现。它在统计学、数据分析、机器学习等领域有着广泛的应用。
