独立不是"没关系",它是一个可以打印出来的等式
一枚偏币,正面的概率是 p。连扔两次,第一次正面和第二次反面——这两件事到底算不算独立?课堂上的回答通常是"当然独立,硬币没有记忆"。可"没有记忆"只是直觉,这一篇把它变成一行能验算的等式。
P(A∩B) = P(A)P(B) 才是独立
原书原文(英文)
Suppose that we have a coin which comes up heads with probability , and tails with probability . Now suppose that this coin is tossed twice. Using a frequency interpretation of probability, it is reasonable to assign to the outcome the probability , to the outcome the probability , and so on.
Let be the event that heads turns up on the first toss and the event that tails turns up on the second toss. We will now check that with the above probability assignments, these two events are independent, as expected. We have , . Finally , so .
一句"当然没关系",值几个钱
课堂上问:"连扔两次硬币,第一次出正面、第二次出反面,这两件事有关系吗?"
全班会答:"没关系。"有人还会补一句"硬币又没有记忆"。
这个回答是对的。但数学不相信"没有记忆"这种话——它要一个能验算的等式。
这一篇就干这一件事:把"没关系"这句话,变成一行谁都能查的乘法。
左边是"两件事同时发生"的概率,右边是两边概率的乘积。相等,就叫独立。不相等,就不独立。 没有第三种状态,没有"某种程度的独立"。
这一篇短得像一道习题,可它立起了概率论里最常用的一个定义——而我们对"独立"的直觉,恰恰在复杂场景里经常骗人。
这道题在问什么
先把事件定清楚,别让措辞带偏。
扔两次,每次两个结果。设
- = 第一次出正面
- = 第二次出反面
问: 和 独立吗?
按定义,要验的是 是否等于 。
是什么? 是"第一次正面、第二次反面"这一个结果,也就是 。
这里要特别小心:它的概率按频率解释是 ——但这个"频率解释"本身就是把两次投掷视为互不影响才得出的,所以它不能同时又当作独立的证据。往下看定义怎么绕出来。
算一下:三项,全是代数
第一步:算 。
第一次出正面,第二次是什么都行。所以把第二次的两种可能加起来:
提出公因式:
。 漂亮,跟直觉一致——"第一次出正面"的概率就是 ,跟第二次完全无关。
第二步:算 。
同理,第二次出反面,第一次随便:
。
第三步:相乘,验证。
而
两边相等。
和 独立。
这一页纸里真正发生了什么事
上面三步全是代数,看着像在走流程。可它做了一件比"算出答案"重要得多的事:它证明了"频率解释"和"形式定义"是同一件事。
回看第一步里的 。这一步用到了 ——也就是"两次扔出 或 " 已经把第一次正面的所有可能列尽了。
这不是巧合,这是伯努利试验模型的内部自洽性:我们按"各扔一次"分配概率(、、、),然后"第一次出正面"这个事件的概率自动等于 。模型没有自相矛盾。
而 这件事,正是"第一次的结果不受第二次影响"的数学表达。独立不需要额外假设,它从这个模型里长出来。
再补一个常被漏掉的反方向检查: 是多少?
知道第二次出了反面,第一次出正面的概率仍然是 ,一点没变。 这才是"独立"在条件概率语言里的原话——新信息不改变概率。
独立是奢侈品,不是默认设置
这篇短例子真正该留在学生心里的,是它的对立面。
独立是一个很强的条件,现实里大多数两件事都不满足它。
举三个随手可查的反例:
反例一:一罐子里摸两个球(不放回)。 第一个摸出红球,第二个摸出红球的概率立刻变了——总球数和红球数都少了一个。不独立。
反例二:明天下雨和今天下雨。 显然有关。不独立。
反例三:最阴的——同一个袋子里两个球,设 = "第一个是红", = "两个同色"。这两个事件各自的概率都不小,可 与 一算就不等。不独立,而且从直觉上极难看出来。
所以"没关系"这三个字,在数学里不是一个描述,是一个需要验证的断言。 你说它独立,请把 和 都算出来给大家看。
顺带说一句往后的伏笔:扔 次硬币,正面总数服从二项分布——这个结论的前提就是"每次独立"。 上一篇讲大数定律时我们说次数越多频率越稳,那个"稳"的根基正是这里验的等式。
在课堂上怎么办
这个例子适合当"定义的出土现场",用不了半节课,但要把一个毛病当场扳过来。
第一件事:让学生先凭直觉站队。 "第一次正面、第二次反面,独立吗?"——全班会答独立,理由都是"硬币没有记忆"。
第二件事(关键):问一句——"那你怎么证明?"
这一问会冷场。学生会发现自己手里只有一个比喻,没有一个可以写在纸上的东西。这个冷场就是本篇的教学点。
第三件事:把等式写在黑板上,三步代完。
让学生自己动笔算第二行、第三行。这一步几乎人人会做,可做完他会发现:"没有记忆"这个比喻,原来可以变成三行代数。
第四件事(最有价值):给他们一个不独立的例子,让他们用同一把尺子去量。 一袋 3 红 2 白,不放回摸两个。设 = 第一个红, = 第二个红。
不等。不独立。 而且注意一个细节: 仍然是 (对称性),跟 一样——两个事件的边际概率相等,它们照样可以不独立。
这个细节是"独立"最容易误解的地方:两件事各自的概率相等,跟它们独立不独立毫无关系。
学生最容易栽在哪
课堂提问
- 把硬币换成偏币,、。验证 还成立吗?为什么 取任何值都不影响结论?
- 一袋 4 红 6 白,不放回摸两个。 = 第一个红, = 第二个红。算出 、、、。 和 相等吗?这告诉你"边际相等"和"独立"是什么关系?
- 扔三次硬币, = "至少两次正面", = "第一次正面"。这两个事件独立吗?(提示: 时先猜,再算。答案可能会让你意外。)