Archipelago

Lec 5噪声信道与句子解释

讲义完成更新于 2026-09-28

Lec 5 噪声信道与句子解释

MIT 9.59J / 24.905J · 实验心理语言学 · 主讲 Edward Gibson

TL;DR

  • 有噪信道下的贝叶斯推断:大脑将听到的句子视为经过噪声破坏的信号,综合世界知识先验 P(s)P(s) 与编辑距离似然度 P(si∣s)P(s_i|s)。
  • 非可逆与可逆句的解释不对称:“母亲被婴儿喂养”等反常句被系统性误读为施事母喂子,证明先验过强时会压倒语法字面输入。
  • 编辑距离的物理约束:插入与删除单辅音的感知似然度极高,大脑在毫秒内完成针对现实物理最合理的句子纠错重构。

1. 核心问题

  • 驱动问题:听到不合理句子时,我们何时应怀疑自己听错了?
  • 计算本质:语言理解并非抽象符号规则的静态匹配,而是在有限工作记忆容量、时间不可逆性与物理噪声信道约束下,心智进行的多重线索贝叶斯最优概率推断。
  • 课程坐标:本讲作为全课程第 5 讲,构成了从实验范式量化向高阶句法、语义与文化相对论跃迁的核心环节。

2. 核心概念

概念一句话定义易混淆对象
噪声信道把感知形式视为可能受传输或记忆错误影响任意改写原句
后验推断综合原句可能性与错误代价估计意图只凭语义猜测
句法交替主动/被动等表层形式转换意义一致
合理性事件与世界知识是否相符语法性

3. 证据链

讲义回顾 Gibson、Bergen 与 Piantadosi (2013):向参与者呈现角色倒置或不合理的主动、被动及双宾语句,再用理解问题区分按表层句法回答和按合理事件重建。主动与被动形式之间所需的插入/删除不同,理解偏差也呈不对称;讲义用编辑代价与先验合理性共同解释,而不是说读者总忽视语法。

4. 理论之争与计算模型

字面分析坚持输入句法是唯一证据;噪声信道分析允许少量传输错误并比较修复路径。操纵噪声、错误步数和情境合理性可以分开检验。

5. 分析层次的整合

系统层次核心研究维度本讲关键机制与实证
语言与文化层(Linguistic & Cultural)语料库频率统计、跨语言对比与句法参数词汇分布规律、句法结构选择与文化约束
计算与算法层(Computational & Algorithmic)贝叶斯有噪信道推断、依存局部性代价量化惊异度(Surprisal)计算、线索直接检索匹配
行为与生理层(Behavioral & Physiological)毫秒级自定步速阅读时延、眼动注视与脑电 P600反应时差异直接映射即时在线认知加工阻力
  • 层次小结:感知层有误听误读;计算层是后验权衡;行为层是理解题答案。

6. 边界条件与失效情形

  • 实验中的刻意异常句与日常自然语料不同;“合理”判断也随文化与个人经验变化。
  • 常态与极端的辩证:实验室单句呈现与自然语境存在生态效度差异;特定语言(如英语)中稳健的词序效应不应草率外推为全人类语言普遍规则。

7. 课程内外的横向关联

  • 讲次串联:承接 Lec 04 - 语言作为信息传递;可继续读 Lec 06 - 主谓一致吸引与记忆线索。把本讲的实验逻辑应用到一次真实对话或阅读中的歧义,先写下可观察的指标。
  • 跨学科映射:与 MIT 9.00《心理学导论》语言篇、9.012《认知科学》语言习得专题紧密呼应,在实验方法学与信息论计算模型上提供深层支撑。

我的理解

认知科学家的心智诊断:拥抱噪声的智慧——贝叶斯纠错是人类理解的护城河

如果计算机程序遇到哪怕一个错位分号,整个系统就会发生语法崩溃(Syntax Error);但人类在嘈杂的地铁车厢里倾听结结巴巴、语病百出的对话时,却依然能精准领会对方的心意。

爱德华·吉布森的“噪声信道模型”指出了传统形式语法的根本谬误。

真实世界从来没有纯净的句子,空气中有风声,声带会打结,打字会手抖。大脑如果拘泥于字面严格解析,人类就会在第一秒沦为逻辑废人。

我们的大脑是一个卓越的贝叶斯解码器:它永远在用沉甸甸的世界常识先验,去修正物理输入中那些微小偏离的似然度。我们听到的不是对方嘴里发出的音波,而是对方心中真正想要诉说的真实。

8. 思考题与自测

  1. “球踢了女孩”为什么可能诱发修复?
  2. 两种改写若要插入两词与删除两词,等价吗?
  3. 怎样设计理解题防止参与者只按常识作答?

9. 开放问题与前沿探索

  • 未决之谜:真实对话中,听者确认说话者意图会怎样改变修复策略?
  • 大模型与认知对齐:现代大语言模型(LLM)的注意力权重分配是否在统计物理上复现了人类的依存局部性理论?自回归解码的逐词惊异度与人类阅读时间的相关性为计算心理语言学提供了全新研究范式。

10. 参考文献与延伸阅读

  • 课程核心材料:
    • Gibson, E. (2017). 9.59J/24.905J Laboratory in Psycholinguistics, Lecture 5: 噪声信道与句子解释. MIT OpenCourseWare.
    • Gibson, E. (1998). Linguistic complexity: Locality of syntactic dependencies. Cognition, 68(1), 1–76.
    • Gibson, E., Bergen, L., & Piantadosi, S. T. (2013). Rational integration of noisy evidence and prior semantic knowledge in sentence interpretation. PNAS, 110(20), 8051–8056.
    • Levy, R. (2008). Expectation-based syntactic comprehension. Cognition, 106(3), 1126–1177.