一句话回答
基础比率谬误是指根据具体证据判断事件概率时,忽略了事件本身的普遍程度(基础比率)。事件罕见时,人们会严重高估阳性信号的正确率。
公式: P(A|B) = P(B|A) × P(A) ÷ P(B)
什么是基础比率谬误?
基础比率谬误(Base Rate Fallacy,也叫基础比率忽视)是指:根据具体证据判断某件事的可能性时,忽略了它本来有多常见,也就是它的基础比率。基础比率很低时,即使信号相当准,报出来的也大多是假警报,而人们总是低估假警报有多少。
Daniel Kahneman 和 Amos Tversky 在 1970 年代描述了这个现象。他们的「出租车问题」让人根据证人对车身颜色的描述做判断,大多数人忽略了城里 85% 的出租车都是另一种颜色。在数据分析里,只要罕见事件遇上不完美的检测方法,就会出现这个问题:欺诈、机器人、流失预测、「赢了」的实验。
背后的数学:贝叶斯定理
收到阳性信号时,事情为真的概率是:
P(为真 | 被标记) = P(被标记 | 为真) × P(为真)
÷ [ P(被标记 | 为真) × P(为真) + P(被标记 | 为假) × P(为假) ]
换成白话:所有被标记的里面,真的占多少?这个比例叫精确率(阳性预测值),它在很大程度上取决于基础比率 P(为真),而不只是检测方法本身准不准。
例 1:机器人检测
假设某网站有 2% 的会话是绕过了基础过滤的机器人(示例数字)。一条行为规则能抓住其中 95%,同时会把 3% 的真人会话误判为机器人。
10 万次会话里:
| 被标为机器人 | 未被标记 | 合计 | |
|---|---|---|---|
| 机器人 | 1,900 | 100 | 2,000 |
| 真人 | 2,940 | 95,060 | 98,000 |
| 合计 | 4,840 | 95,160 | 100,000 |
被标记的 4,840 次会话里,只有 1,900 次是机器人:39%。一条听起来「准确率 95%」的规则,触发时错的比对的多,因为真人比机器人多得多。如果把被标记的会话全删掉,会删掉 2,940 个真实访客。
所以处理机器人流量通常会叠加多种信号,并让边界情况可以复核,而不是直接丢弃。见机器人检测原理和报告误判。
例 2:「赢了」的 A/B 实验
假设团队测试的点子里有 10% 真的能提升指标(基础比率),实验的统计功效是 80%,显著性水平 5%。
100 次实验里:
- 10 个真有效 × 80% 被检测到 = 8 次真胜出
- 90 个无效 × 5% 假阳性 = 4.5 次假胜出
12.5 个「显著」结果里只有 64% 是真的。如果好点子的基础比率是 5%,这个比例降到约 46%。显著不等于 95% 的保证,显著结果里真效果占多少,取决于你的点子多常奏效。中途偷看、同时检验很多指标,会让这个比例更低,见 p 值操纵。
例 3:分群对比
「打开过定价页的用户转化率 12%,整体只有 2%,所以要把所有人都推去定价页。」这里的基础比率陷阱更隐蔽:主动去看定价的人本来就更可能购买。要在同等条件下比较,并记住 12% 描述的是一个自我选择出来的人群,见混杂变量和相关和因果。
怎么避免基础比率谬误
- 先问基础比率。 在任何证据出现之前,这件事本来有多常见?写下来。
- 画 2×2 表,用真实的计数代替百分比,答案会一目了然。
- 报告精确率,不只报准确率。 对任何检测或预测都问:被标记的里面,有多少是对的?
- 事件越罕见,假警报越多。 事件越少见,信号要越精确才有用。
- 意外的胜出要复验。 再做一次实验或留一段对照期,把真效果和运气分开。
和相关偏误的区别
- 代表性启发: 按「像不像」某种典型来判断概率,常常导致忽视基础比率。
- 检察官谬误: 把 P(证据 | 无辜) 当成 P(无辜 | 证据),是同一类错误的具体形式。
- 辛普森悖论: 另一种陷阱,分组构成不同导致趋势反转。
参考资料
- Kahneman, D. and Tversky, A. (1973). On the psychology of prediction. Psychological Review, 80(4).
- Bar-Hillel, M. (1980). The base-rate fallacy in probability judgments90046-3). Acta Psychologica, 44(3).
- Ioannidis, J. P. A. (2005). Why most published research findings are false. PLoS Medicine, 2(8).
这个解释清楚吗?
我们会根据反馈修改和补充这篇内容。
提交没有成功,请稍后再试。
谢谢你的反馈,我们会据此改进这篇内容。你已经反馈过这篇了,谢谢。
