Lec 7 大数定律与中心极限定理

MIT 9.07 · 脑与认知科学统计学 · 主讲 Emery N. Brown

TL;DR

• 切比雪夫不等式与尾部界：方差作为离散度的普适上界，奠定了依概率收敛（Convergence in Probability）的形式化证明。
• 弱大数定律（WLLN）：独立同分布样本均值随着样本量趋于无穷，以概率 1 收敛于真实的总体数学期望常数。
• 中心极限定理（CLT）：无论总体最初服从何种偏态分布，其标准化样本均值渐近收敛于标准正态分布 $N(0, 1)$。

1. 核心问题

• 驱动问题：- 样本量增大究竟保证什么：观察均值更接近总体均值，还是任意原始数据都变成高斯？
• 两个定理回答不同问题，且都需检查抽样、独立性和方差条件。
• 统计本质：神经生物与行为数据本质上是由微观随机过程（离子通道开关、递质释放、神经元脉冲时延）驱动的高噪声样本，统计学提供了连接不确定性数据与生理因果律的严谨数学公理体系。
• 课程坐标：本讲作为全课程第 7 讲，深度承接前后的理论进阶，构筑从基础概率空间向复杂参数估计与推断决策跃迁的关键量化基石。

2. 核心概念

概念	一句话定义	易混淆处
样本均值	$\bar X=n^{-1}\sum_iX_i$，本身是随机变量	总体参数已经已知
弱大数定律	独立同分布且有限方差时，$\bar X$ 依概率趋向 $\mu$	每个有限样本都保证精确
Chebyshev 界	$P(	\bar X-\mu
中心极限定理	$\sqrt n(\bar X-\mu)/\sigma$ 的分布趋近标准高斯	原始 $X_i$ 都高斯
连续性修正	用连续高斯近似离散计数时调整区间端点 $0.5$	任何情况都无误差

3. 证据链与数学推导

讲义算例：神经科学学会投票意向

• 设计：将支持候选人 A 记为伯努利变量，抽查 $n$ 人并计算支持比例 $\bar X$。
• 结果：在随机、独立同分布且如实回答的模型下，$E(\bar X)=p$、$\mathrm{Var}(\bar X)=p(1-p)/n$；Chebyshev 界随 $n$ 增大趋零。
• 推论：更大样本降低模型内的抽样波动。
• 软肋：如实回答、无选择偏差是例题假设；大样本不能修复系统性抽样偏差。

讲义示意：Gamma 与双峰数据的平均

• 设计：比较从 Gamma 分布和一组双峰分布中抽取 $n=1,2,4,16,400$ 个值时的样本均值分布。
• 结果：图示两组均值都随 $n$ 增大集中且形状更近对称。
• 推论：均值集中与标准化形状变化可同时出现，但由不同定理解释。
• 软肋：示意图不能说明具体神经实验的独立性或收敛速度。

讲义算例：40 Hz 泊松放电与二项正确数

• 设计：用高斯近似均值/方差均为 40 的泊松计数，另回到大鼠 40 试次的二项正确数；讲义与精确离散概率比较并讨论连续性修正。
• 结果：讲义给出标准化后近高斯的极限推导；有限 $\lambda=40$ 或 $n=40$ 时近似仍有误差。
• 推论：极限定理可提供计算近似，不能替代对有限样本尾部和假设的检查。
• 软肋：放电泊松与试次独立同概率均是模型假设；很偏斜或罕见事件时正态近似会较差。

4. 理论之争与计算模型

立场 A	立场 B	区分证据
均值可用高斯近似	小样本或重尾数据需其他近似	与精确计数概率或模拟分布比较
样本越大推断越可靠	选择偏差/时间依赖仍可能主导误差	抽样框、试次相关与敏感性分析

5. 分析层次的整合

系统层次	核心研究维度	本讲关键机制与实证
数学公理与概率层（Axiomatic）	测度论、概率空间、随机变量分布族代数性质	严格遵循全概率公式、矩母函数乘积与特征函数极限定理
统计推断与算法层（Algorithmic）	估计量构造、似然求解、置信区间与假设检验决策	最小化 MSE、求解得分方程与重采样经验分位数收敛
神经与实验数据层（Empirical）	动作电位放电时间序列、脑电/肌电连续信号与行为抉择	实测数据校准理论模型，Q-Q 图诊断残差偏态与过离散度

• 层次小结：- 神经/生理：假设性快速放电神经元、MEG 噪声的多源叠加讨论。
• 认知/信息加工：概率收敛与分布收敛的区分。
• 行为：投票意向与大鼠学习正确率仅作为建模例子。
• 社会/文化：投票问题里的如实回答和抽样偏差。

6. 边界条件与失效情形

• • 原始数据的形状不会因增大样本自动变高斯；近高斯的是合适标准化的总和/均值。
• Chebyshev 给保守上界；保证趋零不等于保证某次抽样一定接近参数。
• 讲义讨论 MEG 高斯形状可能来自多种干扰源之和，这仍是解释假说，不是独立性证明。
• 常态与极端的辩证：大样本渐近理论（如 CLT、MLE 渐近正态）在小样本或强相关神经元群体中面临严重失效风险；必须通过非参数自举或精确检验监控统计稳健性。

7. 课程内外的横向关联

• 讲次串联：- Lec06-Moments-and-Covariance 的均值、方差公式给两个极限定理的起点。
• Lec08-Method-of-Moments 用中心极限定理量化参数估计的不确定性。
• 自举例：每次测量噪声偏斜，平均许多次后平均值可能近高斯，但同一仪器的连续读数若相关，收敛速度会变慢。
• 跨学科生态联结：与 MIT 9.00《心理学导论》研究方法、9.35《知觉》心理物理学、以及 9.59《心理语言学实验》的方差分析与线性回归紧密贯通，构成了整个脑与认知科学的通用统计语言。

8. 思考题与自测

1. 大数定律与中心极限定理分别预测什么量？
2. 40 次独立伯努利试验的正确比例方差是什么？
3. 为什么连续性修正用于离散计数的高斯近似？

9. 开放问题与前沿探索

• 未决之谜：- 对相关的神经时间序列，怎样估计有效样本量？
• 什么时候用精确二项/泊松计算比高斯近似更稳妥？
• 前沿计算交叉：点过程非线性滤波（Point Process Filter）与状态空间模型（State-space Models）在脑机接口（BCI）实时神经假体运动解码中的实证应用，展示了统计推断在闭环神经工程中的最前沿突破。

10. 参考文献与延伸阅读

• 课程核心材料：
  • Brown, E. N. (2016). 9.07 Statistics for Brain and Cognitive Science, Lecture 7: 大数定律与中心极限定理. MIT OpenCourseWare.
  • Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
  • Brown, E. N., Kass, R. E., & Mitra, P. P. (2004). Multiple neural spike train data analysis: State-of-the-art and future challenges. Nature Neuroscience, 7(5), 456–461.
  • Kass, R. E., Eden, U. T., & Brown, E. N. (2014). Analysis of Neural Data. Springer.