Lec 13 简单线性回归

MIT 9.07 · 脑与认知科学统计学 · 主讲 Emery N. Brown

TL;DR

• 普通最小二乘法（OLS）正交投影：最小化残差平方和，几何上将因变量向量正交投影到自变量张成的超平面上。
• 高斯-马尔可夫定理（BLUE）：在误差同方差且互不相关的弱假设下，OLS 估计量是所有线性无偏估计中方差最小的最优解。
• 残差诊断的四大铁律：严格检查残差均值为零、方差齐性（Homoscedasticity）、独立无自相关以及分位数正态性。

1. 核心问题

• 驱动问题：- 轴突直径能在什么范围内预测传导速度？MEG 相邻读数或神经活动与学习表现之间又能否用一条直线描述？
• 相关、预测与因果是不同主张；强拟合仍需检查残差和外推范围。
• 统计本质：神经生物与行为数据本质上是由微观随机过程（离子通道开关、递质释放、神经元脉冲时延）驱动的高噪声样本，统计学提供了连接不确定性数据与生理因果律的严谨数学公理体系。
• 课程坐标：本讲作为全课程第 13 讲，深度承接前后的理论进阶，构筑从基础概率空间向复杂参数估计与推断决策跃迁的关键量化基石。

2. 核心概念

概念	一句话定义	易混淆处
简单线性回归	$Y_i=\alpha+\beta X_i+\epsilon_i$，一个解释变量预测结果	每个关系都严格线性
斜率 $\beta$	$X$ 增加一单位时条件均值的变化	单位或范围可忽略
最小二乘	选参数使残差平方和最小；高斯误差下与均值参数 MLE 相合	自动保证误差模型正确
$R^2$	样本内被拟合直线解释的总平方和比例	模型必有因果解释
残差	观察值减预测值，用于查模型误设	只需报一个 p 值

3. 证据链与数学推导

讲义分析：轴突直径与传导速度

• 设计：用 67 对直径—速度数据拟合线性模型，并计算斜率区间、$R^2$ 及残差图。
• 结果：讲义给斜率约 $6.07$ 米/秒/微米、其近似 95% 区间 $[5.79,6.35]$；$R^2\approx0.967$。残差随直径增大似乎变宽。
• 推论：在观察直径约 2–20 微米范围内，速度与直径有很强的样本内线性关联。
• 软肋：残差宽度变化可能违反同方差假设；不能把负截距外推到直径零，也不能只凭相关作因果宣称。

讲义材料：MEG 连续读数和学习活动

• 设计：讲义将当前 MEG 噪声读数对前一个读数作散点，又展示神经活动变化与学习表现的散点，作为回归建模动机。
• 结果：公开正文提出关系是否适合简单直线的问题，未给这两组材料的完整回归参数与因果检验。
• 推论：回归可以显露时间相关或协变，但不能从提示图自行写出定量结果。
• 软肋：连续读数不独立时，普通回归标准误需要重新处理。

4. 理论之争与计算模型

立场 A	立场 B	区分证据
轴突数据在观察范围内近线性同方差	误差随直径增大或关系弯曲	残差对直径、预测值及分组拟合
神经活动可预测学习表现	两者受共同状态或时间趋势影响	控制时间、状态与重复测量后的预测

5. 分析层次的整合

系统层次	核心研究维度	本讲关键机制与实证
数学公理与概率层（Axiomatic）	测度论、概率空间、随机变量分布族代数性质	严格遵循全概率公式、矩母函数乘积与特征函数极限定理
统计推断与算法层（Algorithmic）	估计量构造、似然求解、置信区间与假设检验决策	最小化 MSE、求解得分方程与重采样经验分位数收敛
神经与实验数据层（Empirical）	动作电位放电时间序列、脑电/肌电连续信号与行为抉择	实测数据校准理论模型，Q-Q 图诊断残差偏态与过离散度

• 层次小结：- 神经/生理：轴突传导速度、MEG 噪声及神经活动。
• 认知/信息加工：把连续协变量与结果的条件均值联结，检验拟合假设。
• 行为：学习表现作为候选响应变量。
• 社会/文化：未展开。

6. 边界条件与失效情形

• • 负截距在直径零时没有物理意义，因为观测范围不含零；外推会失败。
• 高 $R^2$ 只描述本数据的样本内解释比例，不担保样本外预测。
• 残差异方差会影响普通斜率标准误与区间，需进一步诊断或改模型。
• PDF 的内部 Lecture 14 与 OCW 页面第 13 次课编号不一致，本笔记采用课程页面编号。
• 常态与极端的辩证：大样本渐近理论（如 CLT、MLE 渐近正态）在小样本或强相关神经元群体中面临严重失效风险；必须通过非参数自举或精确检验监控统计稳健性。

7. 课程内外的横向关联

• 讲次串联：- Lec04-Transformations-and-Joint-Distributions 的联合测量给回归数据对。
• Lec12-Hypothesis-Testing 的 t/F 检验用于斜率是否为零。
• Lec14-Analysis-of-Variance 用相同的平方和分解思想处理分类因素。
• 自举例：如果训练时间与神经活动一起上升，回归学习正确率对神经活动可能产生强关联；仍需控制时间趋势。
• 跨学科生态联结：与 MIT 9.00《心理学导论》研究方法、9.35《知觉》心理物理学、以及 9.59《心理语言学实验》的方差分析与线性回归紧密贯通，构成了整个脑与认知科学的通用统计语言。

8. 思考题与自测

1. 斜率 $6.07$ 的单位是什么，在哪个直径范围内可解释？
2. $R^2=0.967$ 为什么不能证明直径对速度的全部因果机制？
3. 残差随直径增大变宽，会威胁哪项回归假设？

9. 开放问题与前沿探索

• 未决之谜：- 若轴突直径测量本身有误差，斜率估计会怎样变化？
• 相邻 MEG 读数有自相关时，该用什么时间序列模型？
• 前沿计算交叉：点过程非线性滤波（Point Process Filter）与状态空间模型（State-space Models）在脑机接口（BCI）实时神经假体运动解码中的实证应用，展示了统计推断在闭环神经工程中的最前沿突破。

10. 参考文献与延伸阅读

• 课程核心材料：
  • Brown, E. N. (2016). 9.07 Statistics for Brain and Cognitive Science, Lecture 13: 简单线性回归. MIT OpenCourseWare.
  • Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
  • Brown, E. N., Kass, R. E., & Mitra, P. P. (2004). Multiple neural spike train data analysis: State-of-the-art and future challenges. Nature Neuroscience, 7(5), 456–461.
  • Kass, R. E., Eden, U. T., & Brown, E. N. (2014). Analysis of Neural Data. Springer.