Lec 10 贝叶斯方法

MIT 9.07 · 脑与认知科学统计学 · 主讲 Emery N. Brown

TL;DR

• 贝叶斯后验概率更新公式：后验概率与先验概率乘以似然函数成正比，充当了数据驱动与先验信念之间的理性天平。
• 共轭先验的代数优雅：Beta 先验配合二项似然得到 Beta 后验，正态先验配合正态似然得到精确保守加权的高斯后验。
• MAP 估计与正则化等价：最大后验估计在数学上等价于在损失函数中引入先验惩罚项（L1/L2 岭回归与套索）。

1. 核心问题

• 驱动问题：- 有了 22/40 次正确或树突末梢重塑计数后，未知倾向 $p$ 的分布怎样更新？
• 与最大似然只给一个最优点不同，后验可表示参数区间和不同群体的相对可能性，但依赖先验与似然。
• 统计本质：神经生物与行为数据本质上是由微观随机过程（离子通道开关、递质释放、神经元脉冲时延）驱动的高噪声样本，统计学提供了连接不确定性数据与生理因果律的严谨数学公理体系。
• 课程坐标：本讲作为全课程第 10 讲，深度承接前后的理论进阶，构筑从基础概率空间向复杂参数估计与推断决策跃迁的关键量化基石。

2. 核心概念

概念	一句话定义	易混淆处
先验	观察当前数据前对参数的概率分布	必等于「没有信息」
似然	给定参数时观察到数据的模型概率	已归一化的参数概率
后验	$\pi(\theta\mid x)\propto L(\theta)\pi(\theta)$	只取最大值的点估计
共轭先验	更新后仍在同一分布族的先验	先验函数必须与似然成正比
MAP	后验密度的众数；与 MLE 可不同	后验均值或真实参数

3. 证据链与数学推导

讲义推导：二项计数与 Beta 先验

• 设计：用大鼠 40 试次正确总数 $y=22$，给 $p\sim\mathrm{Beta}(\alpha,\beta)$。
• 结果：后验 $p\mid y\sim\mathrm{Beta}(\alpha+22,\beta+18)$；若仅作示范选 $\mathrm{Beta}(1,1)$，后验为 $\mathrm{Beta}(23,19)$。
• 推论：后验兼顾先验形状与观察计数；同一总数在固定二项模型中概括了与 $p$ 有关的信息。
• 软肋：Beta(1,1) 是一个明确建模选择，不等于客观「完全无信息」；若试次有学习，固定 $p$ 的二项似然也不成立。

讲义材料：两类树突末梢

• 设计：第 5 讲的数据为中间神经元 35/259、锥体细胞 0/124 个末梢重排；讲义对两群倾向各设均匀 Beta(1,1) 先验和二项似然。
• 结果：各群后验分别为 $\mathrm{Beta}(36,225)$ 与 $\mathrm{Beta}(1,125)$；讲义提出用后验模拟比较两群倾向，未在正文公布比较概率。
• 推论：零次观察仍有非零参数范围；两群差异要按完整后验比较。
• 软肋：分组末梢独立、同倾向是假设；公开讲义把具体模拟比较留给作业，此笔记不补造课堂结果。

讲义推导：泊松—Gamma 与高斯—高斯

• 设计：给泊松率 $\lambda$ 设 Gamma 先验；给高斯观测的未知均值设高斯先验。
• 结果：若 Gamma 使用速率 $\beta$，计数和 $y$、观察次数 $n$ 更新为 $\mathrm{Gamma}(\alpha+y,\beta+n)$；高斯后验均值是先验均值与观测值按方差加权的平均。
• 推论：共轭族让后验解析可算；高斯更新又可导出简单的动态滤波形式。
• 软肋：先验方差或泊松独立同率假设改变时，结果也改变；复杂后验可能需数值近似或抽样。

4. 理论之争与计算模型

立场 A	立场 B	区分证据
弱先验足够，让数据主导	领域知识可给信息性先验	先验敏感性和外部验证
用解析共轭模型	复杂真实模型需计算近似	后验预测检查与模拟诊断

5. 分析层次的整合

系统层次	核心研究维度	本讲关键机制与实证
数学公理与概率层（Axiomatic）	测度论、概率空间、随机变量分布族代数性质	严格遵循全概率公式、矩母函数乘积与特征函数极限定理
统计推断与算法层（Algorithmic）	估计量构造、似然求解、置信区间与假设检验决策	最小化 MSE、求解得分方程与重采样经验分位数收敛
神经与实验数据层（Empirical）	动作电位放电时间序列、脑电/肌电连续信号与行为抉择	实测数据校准理论模型，Q-Q 图诊断残差偏态与过离散度

• 层次小结：- 神经/生理：树突重塑、量子释放与运动皮层方向解码。
• 认知/信息加工：从条件信息更新参数信念。
• 行为：大鼠正确率作为二项参数示例。
• 社会/文化：不同先验反映不同知识来源，需透明报告。

6. 边界条件与失效情形

• • 共轭先验的正确要点是「后验仍属同一族」，原讲义把它简写成「先验与似然成正比」容易误导。
• 原讲义 Beta 后验方差的显示式少了分母中的平方因子；使用时应按标准 Beta 方差重新核算。
• MAP 不等于后验均值；边界或偏斜后验时两者可差很多。
• 常态与极端的辩证：大样本渐近理论（如 CLT、MLE 渐近正态）在小样本或强相关神经元群体中面临严重失效风险；必须通过非参数自举或精确检验监控统计稳健性。

7. 课程内外的横向关联

• 讲次串联：- Lec05-Conditional-Distributions-and-Sums 已推导 Beta-二项的条件分布。
• Lec09-Likelihood-Theory 的似然是本讲后验更新的一项输入。
• Lec11-Bootstrap-and-Monte-Carlo 将讨论用模拟量化估计不确定性。
• 自举例：若两个实验室对同一试次数据给不同先验，报告两种后验结果比只报告一个 MAP 更可评估。
• 跨学科生态联结：与 MIT 9.00《心理学导论》研究方法、9.35《知觉》心理物理学、以及 9.59《心理语言学实验》的方差分析与线性回归紧密贯通，构成了整个脑与认知科学的通用统计语言。

8. 思考题与自测

1. Beta 先验与 22/40 正确数相乘后，两个参数分别增加多少？
2. 为什么「0/124」不等于后验把倾向固定在零？
3. 共轭、MLE、MAP 与后验均值之间有什么区别？

9. 开放问题与前沿探索

• 未决之谜：- 树突末梢彼此相关时，简单 Beta-二项模型怎样扩展？
• 对大鼠学习数据，先验与动态 $p_t$ 模型哪个影响更大？
• 前沿计算交叉：点过程非线性滤波（Point Process Filter）与状态空间模型（State-space Models）在脑机接口（BCI）实时神经假体运动解码中的实证应用，展示了统计推断在闭环神经工程中的最前沿突破。

10. 参考文献与延伸阅读

• 课程核心材料：
  • Brown, E. N. (2016). 9.07 Statistics for Brain and Cognitive Science, Lecture 10: 贝叶斯方法. MIT OpenCourseWare.
  • Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
  • Brown, E. N., Kass, R. E., & Mitra, P. P. (2004). Multiple neural spike train data analysis: State-of-the-art and future challenges. Nature Neuroscience, 7(5), 456–461.
  • Kass, R. E., Eden, U. T., & Brown, E. N. (2014). Analysis of Neural Data. Springer.