Skip to content

Lecture 18:概率论导论

来源:MIT 6.1200J / 18.062J Mathematics for Computer Science,Spring 2024


1. 概率论的重要性

概率论是科学中最重要的学科之一,广泛应用于:

  • 随机算法(Miller-Rabin、6.1210、6.1220、6.5220)
  • 博弈论(Game Theory
  • 信息论(Information Theory
  • 信号处理、密码学、机器学习、医学、统计学、法证学

核心观点: 直觉往往不可靠,应抛弃直觉,回归严格的逐步分析。


2. 蒙提霍尔问题(Monty Hall Problem

问题描述: 三扇门,一扇后是汽车,另两扇后是山羊。选择一扇门后,主持人打开另一扇有山羊的门,此时换门是否有利?

建模假设(公理):

  • 奖品等概率地在三扇门中的任意一扇后面
  • 参赛者等概率地选任意一扇门
  • 主持人必须打开一扇未被选中且有山羊的门
  • 若主持人有两扇门可选,则各以 1/2 的概率打开其中一扇

3. 树图法(Tree Method

第 0 步:明确问题

精确数学问题:"换门后赢得奖品的概率是多少?"

第 1 步:样本空间(Sample Space

定义(离散概率空间): 一个离散概率空间discrete probability space)是一个二元组 (S,Pr),其中:

  • S 是一个非空可数集,称为样本空间sample space
  • Pr:S[0,1] 是一个满足 ωSPr[ω]=1 的全函数,称为概率函数probability function

定义(结果): S 中的元素 ωS 称为一个结果outcome)。

样本空间可以简洁地表示为:

S=(x,y,z)A,B,C3:zxzy

第 2 步:概率函数

各边的概率(条件概率):

  • 最左层(奖品位置):各边概率为 1/3
  • 中间层(选门):各边概率为 1/3
  • 最右层(主持人开门):概率为 1(只有一扇可选)或 1/2(有两扇可选)

每个结果 ω 的概率 Pr[ω] 等于从根到 ω 路径上各边概率之积。

第 3 步:事件(Event

定义(事件): 样本空间的子集 AS 称为一个事件event)。

示例:

  • [换门赢]=(A,B,C),(A,C,B),(B,A,C),(B,C,A),(C,A,B),(C,B,A)

第 4 步:计算答案

定义(事件的概率): 事件 A 的概率定义为: $$\Pr[A] := \sum_{\omega \in A} \Pr[\omega]$$

换门赢的 6 个结果中,每个概率均为 1/9,因此:

Pr[换门赢]=69=23

结论:换门有利,赢的概率为 2/3


4. 奇异骰子(Strange Dice)与非传递性

三种骰子面数:

  • 红色:2,6,7
  • 绿色:1,5,9
  • 蓝色:3,4,8

定义(均匀概率空间): 若概率函数 Pr 是常数函数,则称概率空间 (S,Pr)均匀的uniform)。均匀空间中计算概率只需计数。

各组对比结果

对比胜者概率
红 vs 绿5/9
绿 vs 蓝绿5/9
蓝 vs 红5/9

非传递性(*Non-transitivity*): 红胜绿、绿胜蓝,但蓝胜红!"胜"关系不必是传递的,直觉在此失效。因此后手玩家始终可以选择克制先手骰子的那个,以 5/9 的概率获胜。

掷两次时的反转

若每人掷两次取总和,均匀空间共有 81 个结果:

Pr[红赢]=3781,Pr[红输]=4281

掷一次时红胜绿,但掷两次时绿胜红——非传递性顺序反转!