贝叶斯定理与直觉

本文为阅读Data Science from Scratch之笔记,文中案例、公式分析皆来自此书

让我们先来看看生活中的一个小例子。假设有某种疾病D,在10000人中会有1人患此病;又假设对患此病的人进行测试,测试为阳性的比例达到99%,也就是说100名患者中,有99名患者检测结果皆为阳性(positive)。问题:

在检测为阳性的情况下,某一个人确定患该病的概率是多少?

不用仔细思考,先用自己的直觉判断,概率高还是低?再结合数据认真思考,你得到的概率值会是多少呢?我想,或许绝大部分人的第一反应是:在检测为阳性的情况下,基本就可以确诊身患D病了。再结合前面给出的数据进行运算,会非常容易地得到答案为99%。这是显而易见的吧,100名患者99名都检测为阳性,那么,——不是反之亦然么?

显然,直觉欺骗了我们。上述数据营造了一种假象,让我们忽略了未患D病的人检测为阳性所占的比例。

让我们把数据增大,假设有一百万人。在这个基数下,患D病的人有100人。在这100人中,检测为阳性的人为99人。现在考虑未患D病的人数,一百万减去一百,得到的人数为999900。根据检测阳性的比例,检测这些人时,会有1%的几率会检测为阳性,人数为999900*1%等于9999人。于是,我们可以计算出患D病且检测为阳性的人在所有检测为阳性的人中所占的比例为:99/99+9999,结果才不到1%。

这样结果真让人莫名惊诧了。换言之,我们可以下结论说:当某个人检测为阳性时,断定他(她)患D病的几率仅仅为0.98%。那么说,这样的检测给医生的参考依据几乎可以忽略不计啊!为什么会这样?——从概率学的角度讲,这其实是贝叶斯定理(Bayes's Theorem)的体现。

首先我们将患病的事件记做D,检测为阳性的事件记做T。如果患病的事件没有发生,则称为“Not D”,符号记为:¬D。同理,检测不为阳性的事件可以记为¬T。

如果记D、T都发生的概率为P(D,T),则有公式:

P(D,T) = P(D|T)/P(T)

其中P(D|T)为当T发生时,D发生的概率,这一概率被称之为事件D关于事件T的条件概率(Conditional probability)。由于P(D,T) = P(T,D) = P(T|D)/P(D),因而条件概率的公式可以记为:

P(D|T) = P(D,T)/P(T) = P(T|D)P(D)/P(T)

我们再将事件D拆分为D和¬D,则P(T)可以记为:

P(T) = P(T,D) + P(T,¬D)

这个公式是一个公理,因为在具有D、T两个事件的情况下,P(T)必然只存在两种情况,要么在T发生时,D也发生;要么在T发生时,D没有发生。那么贝叶斯定理就可以记为:

P(D|T) = P(T|D)P(D)/[P(T|D)P(D) + P(T|¬D)(P¬D)]

现在我们可以计算P(D|T),即测试为阳性时,患D病的概率值了。我们已知:

P(T|D):当患D病时,检测为阳性的概率为0.99;
P(D):10000个人有1个人患D病,则概率为1/10000=0.0001;
P(T|¬D):没有患D病时,检测为阳性的概率为1-0.99=0.01;
P(¬D):没有患D病的概率为1-0.0001=0.9999。

计算上面的公式,P(D|T)等于0.98%。符合我们前面的分析。然而我们的直觉呢?简直溃败而不成军了。

注:上面所述D与T之间关系乃理想状态,判断一个人是否生病,检测是否阳性、阴性仅仅为其中一个要素。例如当我们再增加一个症状事件S后,同时满足T与S的前提,则D发生的概率值就会显著增加。

2015-08-25 15:0042数据科学