最小二乘回归

为散点数据拟合一条直线

**最小二乘回归找出最能拟合一组散点数据的唯一直线。**输入一列 x, y 数对 — 每行一对 — 此计算器 会求出该直线的斜率和截距，以及数据点实际贴合这条直线的紧密程度。

公式

$$\vC{m} = \frac{n\sum{xy} - \sum{x}\sum{y}}{n\sum{x^2} - \left(\sum{x}\right)^2}$$ $$\vC{b} = \frac{\sum{y} - m\sum{x}}{n}$$

其中 $m$ 是斜率，$b$ 是截距，$n$ 是数据点的数量 — 二者共同描述了使每个点到该直线的 平方距离总和最小的直线 $y = mx + b$。

示例演算

对 (1, 1)、(2, 2) 和 (3, 4) 拟合一条直线：

1. $m = \frac{3(17) - 6(7)}{3(14) - 6^2} = \frac{51 - 42}{42 - 36} = \frac{9}{6} = \vC{1.5}$

2. $b = \frac{7 - 1.5(6)}{3} = \frac{7 - 9}{3} = \vC{-0.667}$ — 因此拟合直线为 $y = 1.5x - 0.667$，相关系数约为 $0.98$。

需要考虑的关键因素

• 较强的相关系数并不一定意味着 x 真的导致了 y。 两个变量可能高度相关，原因可能是其中一个确实影响了另一个，也可能是两者都受第三个因素驱动，或者只是小数据集中的巧合——相关性描述的是线性关系的强弱，而不是背后的原因。
• 这种方法假设真实关系是线性的，但这并不总是正确的假设。 如果一组散点实际上呈曲线分布，硬套一条直线虽然在技术上是”最佳拟合”，但对数据的描述仍然很差——在信任拟合结果之前，先直观地画出这些点是一个好习惯。
• 一个异常点（离群值）可能会不成比例地把拟合直线拉向自己。 由于最小二乘法最小化的是平方距离，一个远离总体趋势的点对拟合结果的贡献远大于靠近趋势的点——只有一个极端离群值的小数据集对此尤其敏感。
• 在其他条件相同的情况下，数据点越多，拟合结果通常越可靠。 仅通过 3-4 个点（如举例说明中）拟合出的直线可能看起来很有说服力，但其不确定性远高于用几十个点测得的同一关系——相关性强弱本身并不能反映有多少数据实际支撑这一拟合结果。

常见误区

• 把高相关系数当作因果关系的证据。 较高的 r 值只能说明数据点紧密聚集在一条直线周围——它并不 能说明其中一个变量是否真的导致了另一个变量的变化。
• 对实际呈曲线分布的数据强行拟合直线。 最小二乘法总会返回斜率和截距，即使线性拟合对底层模式的 描述很差——在信任结果之前，先画出这些点，或检查相关系数是否出人意料地低。
• 使用过少的数据点，却把拟合结果当作可靠的。 仅通过 3-4 个点拟合出的直线可能看起来很有说服 力，但其不确定性远高于用几十个点测得的同一关系。
• 在未察觉的情况下让单个离群值主导拟合结果。 由于最小二乘法最小化的是平方距离，一个远离的点 可能把整条直线都拉向自己——值得检查一下，去掉这个异常点是否会大幅改变结果。

有用的信息

• 需要在两个已知点之间估算一个值，而不是通过多个点拟合趋势线？线性插值计算器 涵盖了这种更直接的情况。
• 想看看某个特定值与数据集整体分布的比较情况？Z分数计算器 正是用来衡量这个的。
• 正在用同一组数字进行更广泛的汇总统计？统计计算器 涵盖平均值、中位数和标准差。