Lec 11 Monte Carlo 与 bootstrap

MIT 9.07 · 脑与认知科学统计学 · 主讲 Emery N. Brown

TL;DR

• 经验累积分布函数（ECDF）：格里文科-坎泰利定理保证样本经验阶梯分布在全实数线上一致收敛于真实未知的总体分布。
• 非参数 Bootstrap 置信区间：通过有放回重采样模拟从总体反复抽样的虚拟世界，无需正态假设即可构建经验分位数置信带。
• 蒙特卡洛积分的降维打击：利用大数定律将高维积分转化为独立随机采样的算术平均，计算误差率恒定为 $O(1/\sqrt{N})$。

1. 核心问题

• 驱动问题：- 视网膜放电间隔的 Gamma 参数、第三四分位数等统计量都有误差；公式难推时如何评估这种误差？
• 重抽样的结果仍依赖原始样本是否代表目标总体，以及观测是否独立。
• 统计本质：神经生物与行为数据本质上是由微观随机过程（离子通道开关、递质释放、神经元脉冲时延）驱动的高噪声样本，统计学提供了连接不确定性数据与生理因果律的严谨数学公理体系。
• 课程坐标：本讲作为全课程第 11 讲，深度承接前后的理论进阶，构筑从基础概率空间向复杂参数估计与推断决策跃迁的关键量化基石。

2. 核心概念

概念	一句话定义	易混淆处
经验 CDF	给原样本的每个观测值赋概率质量 $1/n$	已知真实总体分布
非参数 bootstrap	从原样本有放回抽取 $n$ 个值，重算统计量	无需随机抽样或独立性
参数 bootstrap	从已拟合的参数模型模拟 $n$ 个值，重算统计量	不依赖模型是否正确
Monte Carlo 误差	有限重抽样次数 $B$ 带来的计算波动	原样本的统计不确定性
bootstrap 分布	多次重算估计量得到的近似抽样分布	参数的贝叶斯后验

3. 证据链与数学推导

讲义分析：971 个视网膜放电间隔

• 设计：讲义用经验 CDF 与拟合 Gamma 模型分别重抽样，每次保持 971 个观测，重算矩估计的形状参数 $\alpha$ 和速率参数 $\beta$。
• 结果：原估计 $\hat\alpha=0.6284$；非参数 bootstrap 标准误约 $0.0281$，参数 bootstrap 标准误约 $0.0452$。$\hat\beta=0.0204$ 时，两种标准误分别约 $0.0007$、$0.0017$。
• 推论：两种生成机制给不同不确定性估计；参数模型允许原样本中未出现的值，可能形成更宽分布。
• 软肋：这不证明参数法一定更正确；需核对 Gamma 拟合、样本独立性和重抽样次数。

讲义分析：第三四分位数

• 设计：从原样本有放回重抽样，重算放电间隔的第 75 百分位数。
• 结果：原样本值为 43 ms；讲义给 bootstrap 均值约 43.73 ms、标准误约 5.12 ms，以及区间约 $33.69$–$53.77$ ms。
• 推论：非参数统计量也有抽样不确定性，bootstrap 可估其大小。
• 软肋：朴素分位数 bootstrap 的边界和偏差在某些分布中不理想；区间解释取决于构造方法，不是参数的后验概率。

4. 理论之争与计算模型

立场 A	立场 B	区分证据
从经验分布重抽样，少加模型假设	从拟合 Gamma 模型模拟，可涵盖未见值	后验/样本外预测与拟合诊断
观测独立可按单点重抽样	同一神经元间隔有时间依赖	自相关与分块重抽样比较

5. 分析层次的整合

系统层次	核心研究维度	本讲关键机制与实证
数学公理与概率层（Axiomatic）	测度论、概率空间、随机变量分布族代数性质	严格遵循全概率公式、矩母函数乘积与特征函数极限定理
统计推断与算法层（Algorithmic）	估计量构造、似然求解、置信区间与假设检验决策	最小化 MSE、求解得分方程与重采样经验分位数收敛
神经与实验数据层（Empirical）	动作电位放电时间序列、脑电/肌电连续信号与行为抉择	实测数据校准理论模型，Q-Q 图诊断残差偏态与过离散度

• 层次小结：- 神经/生理：视网膜神经元放电间隔。
• 认知/信息加工：估计量的抽样分布和模拟不确定性。
• 行为：无新的行为实验。
• 社会/文化：未展开。

6. 边界条件与失效情形

• • 非参数 bootstrap 只能抽到原样本已有值；极端尾部若原样本未覆盖，无法凭重抽样制造信息。
• 参数 bootstrap 能产生新值，但模型误设会传播到所有模拟样本。
• 有时间或群组依赖时，逐观测独立重抽样会低估或误判不确定性。
• 常态与极端的辩证：大样本渐近理论（如 CLT、MLE 渐近正态）在小样本或强相关神经元群体中面临严重失效风险；必须通过非参数自举或精确检验监控统计稳健性。

7. 课程内外的横向关联

• 讲次串联：- Lec08-Method-of-Moments 给视网膜 Gamma 参数估计，本讲给其误差。
• Lec03-Continuous-Probability-Models 的逆 CDF 模拟是 Monte Carlo 的基础。
• 自举例：对连续读出的神经放电间隔，若每十次读数受同一状态影响，应按状态块重抽样，而非把每个间隔完全拆散。
• 跨学科生态联结：与 MIT 9.00《心理学导论》研究方法、9.35《知觉》心理物理学、以及 9.59《心理语言学实验》的方差分析与线性回归紧密贯通，构成了整个脑与认知科学的通用统计语言。

8. 思考题与自测

1. 非参数与参数 bootstrap 的抽样来源和可能值范围怎样不同？
2. 原样本第 75 百分位是 43 ms，为什么仍需标准误？
3. 时间依赖为何会破坏朴素有放回重抽样的解释？

9. 开放问题与前沿探索

• 未决之谜：- 对放电间隔时间序列，采用多长的块重抽样比较合理？
• 原数据异常值很多时，两类 bootstrap 的结果怎样变化？
• 前沿计算交叉：点过程非线性滤波（Point Process Filter）与状态空间模型（State-space Models）在脑机接口（BCI）实时神经假体运动解码中的实证应用，展示了统计推断在闭环神经工程中的最前沿突破。

10. 参考文献与延伸阅读

• 课程核心材料：
  • Brown, E. N. (2016). 9.07 Statistics for Brain and Cognitive Science, Lecture 11: Monte Carlo 与 bootstrap. MIT OpenCourseWare.
  • Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
  • Brown, E. N., Kass, R. E., & Mitra, P. P. (2004). Multiple neural spike train data analysis: State-of-the-art and future challenges. Nature Neuroscience, 7(5), 456–461.
  • Kass, R. E., Eden, U. T., & Brown, E. N. (2014). Analysis of Neural Data. Springer.