一句话回答
最小可检测效应(MDE)是实验设计时,在选定的显著性水平和功效下要能检测到的最小真实差异。MDE 越小,需要的样本越多;流量不变时,实验要跑得更久。
公式: 每组样本量 n ≈ (z₁₋α/₂ + z₁₋β)² × [p₁(1−p₁) + p₂(1−p₂)] ÷ (p₂ − p₁)²
什么是最小可检测效应?
最小可检测效应(Minimum Detectable Effect,MDE)是实验设计时要能抓到的两组之间最小的真实差异。它和显著性水平(常用 5%)、功效(常用 80%)一起在实验前定好,这三个数共同决定需要多少访客。
如果真实效果不小于 MDE,实验大多能检测出来(功效 80% 时,十次里约八次);如果真实效果更小,实验可能漏掉。
相对 MDE 和百分点 MDE
| 基线 | 相对 MDE | 相差的百分点 | 目标值 |
|---|---|---|---|
| 5.0% | 10% | 0.5 个百分点 | 5.5% |
| 5.0% | 20% | 1.0 个百分点 | 6.0% |
| 40% | 10% | 4 个百分点 | 44% |
不同实验工具要你填的口径不一样,混用会让样本量差出好几倍,所以一定要说清是哪一种。
公式
对转化率来说,每组样本量大约是:
n ≈ (z₁₋α/₂ + z₁₋β)² × [p₁(1−p₁) + p₂(1−p₂)] ÷ (p₂ − p₁)²
- p₁ 是基线转化率,p₂ 是你希望能检测到的转化率。
- α = 0.05(双侧)、功效 80% 时,(1.96 + 0.84)² ≈ 7.85。
关键在于:n 和 1 ÷ (p₂ − p₁)² 成正比。MDE 减半,样本大约要四倍。
计算示例
基线转化率 5%,α = 0.05 双侧,功效 80%,每组每天 4,000 个访客(示例流量):
| 相对 MDE | 目标转化率 | 每组访客 | 需要天数 |
|---|---|---|---|
| 5% | 5.25% | 122,121 | 30.5 |
| 10% | 5.50% | 31,231 | 7.8 |
| 20% | 6.00% | 8,155 | 2.0 |
只关心 10% 以上提升的团队,一周左右就能跑完;想检测 5% 的提升要一个月。20% 那组两天就够样本,也至少跑满一周,让工作日和周末的行为都包含进来。
怎么选 MDE
- 从决策出发。 多小的提升才值得上线并长期维护这个改动?那就是你的 MDE。
- 核对流量。 用公式或计算器算一下。如果要跑几个月,可以改测更大胆的方案、换一个离改动更近的指标,或者接受更大的 MDE。
- 事先定好。 上线前写下 MDE、显著性水平、功效和实验时长,以及要守住的护栏指标。
常见误区
- 看了数据再定 MDE。 计划就变成了事后找理由。
- p 值一跌破 0.05 就停。 中途反复偷看会推高假阳性,要跑到计划的样本量。
- 把不显著当成"没效果"。 它只说明没有以计划的把握找到不小于 MDE 的效果。
- 忽略两组不均衡。 混杂变量或分流出错,都可能制造或掩盖差异。
在 TapCub 里拿到基线
TapCub 不做 A/B 测试,但能提供规划实验需要的输入。基线转化率和每天的流量可以在 网站统计 › 目标,或 全端分析 里的漏斗看到。用最近四个完整周的数据,抹平星期几带来的波动,再把转化率和每天访客数代入上面的公式。
这个解释清楚吗?
我们会根据反馈修改和补充这篇内容。
提交没有成功,请稍后再试。
谢谢你的反馈,我们会据此改进这篇内容。你已经反馈过这篇了,谢谢。
