https://www.xiebro.cool/tags/influential-points/ Recent content in Influential-Points on 浑身蟹数 Hugo -- gohugo.io en Wed, 15 Jul 2026 00:00:00 +0000 https://www.xiebro.cool/post/2026-07-15-influential-points/ Wed, 15 Jul 2026 00:00:00 +0000 https://www.xiebro.cool/post/2026-07-15-influential-points/ 在解释性建模里，拟合出一条回归线只是开始。真正的问题往往是：这条线可信吗？会不会有那么一两条记录，在背后悄悄操纵着整个方程？《数据科学家的实用统计学》（Bruce、Bruce、Gedeck）第 4 章"回归诊断"给出了一套判断工具——它们不直接关乎预测准确度，却能告诉你模型对数据的拟合到底稳不稳。 本文用一份模拟数据把这套诊断量逐一演示出来：每个指标度量什么、经验阈值怎么定、图怎么读、最后怎么据此做决策。主线严格沿用书中这一节的术语与阈值（标准化残差、杠杆值、库克距离，以及本章的招牌可视化——影响图/气泡图）；文末再单开一节，补上书中未涉及、但经典回归诊断教材（如 Montgomery）常用的三个"删除诊断"——DFFITS、DFBETAS、COVRATIO。 三种"不正常"的点 开始之前先厘清三个容易混为一谈的概念，它们彼此并不等价： 离群值（outlier）：实际 $y$ 与预测值相距很远的记录，表现为大残差，是 $y$ 方向上的异常。 高杠杆点（high leverage）：自变量取值远离其余数据的记录，是 $x$ 方向上的异常。书里把杠杆定义为"单条记录对回归方程所产生影响的大小"。 强影响点（influential point）：书中的定义是——“一个值一旦缺失就会显著改变回归方程”。关键在于，这样的点未必伴随大残差。 一个点可以是高杠杆却毫无影响；也可以残差很大却撼动不了方程。真正危险的，是那种"既在 $x$ 方向极端、又偏离趋势"的点。下面我们就人为造出这三类点，看各个指标分别能抓住谁。 模拟数据 构造一个一元线性回归的样本——一元的好处是能直接在散点图上画出回归线、肉眼看到"线被带偏"。这些诊断量对多元回归同样适用，只是无法再用一张二维散点图直观呈现。 真实关系设为 $y = 3 + 1.5x + \varepsilon$，先生成 40 个"干净"的点，再刻意植入三个特殊点 A、B、C： library(tidyverse) set.seed(2026) n_base <- 40 x_base <- runif(n_base, 4, 12) y_base <- 3 + 1.5 * x_base + rnorm(n_base, 0, 1.2) base <- tibble(x = x_base, y = y_base, label = "normal") # B：x 居中、y 大幅偏离 —— 离群点 # C：x 偏大、y 明显偏离趋势 —— 强影响点 xB <- 7; yB <- 3 + 1.