免费工具 最小可检测效应(MDE)计算器
流量和排期都定死的时候,真正的问题是「这个实验能看出多大的差别」。填基线转化率,再填每组样本量或日流量和实验天数,计算器在设定的显著性水平和功效下,反推出实验能可靠测出的最小提升。
- 样本量公式的反解
- 1–8 周 MDE 对照
- 本地计算
这个实验能测出多小的提升
MDE 用和样本量计算器同一个双比例公式数值反解,把结果填回样本量计算器,得到的就是你的样本量。
对照组现在的转化率。3% 填 3。
日流量和实验天数,或者每组能拿到的样本量。
分流之前、符合实验条件的日访客,支持「1.2万」写法。
全量实验填 100,灰度 50% 填 50。
建议整周:14、21、28……
每一组(含对照组)最终能拿到的样本量。
对照组加实验组。普通 A/B 填 2。
能接受的误报概率,常用 5%。
真实效应正好等于 MDE 时测出来的概率,常用 80%。
相对 MDE
+13.9%
相对基线的最小提升。
绝对 MDE(百分点)
0.42
同一个提升换成百分点。
实验组要达到的转化率
3.42%
基线 + 绝对 MDE。
每组访客
28,000
每天进实验的访客 × 天数 ÷ 分组数。
按实验时长看 MDE
跑得越久能测出的效应越小,但很慢:样本翻 4 倍,MDE 才减半。
| 实验时长 | 每组 | 相对 MDE | 绝对(百分点) | 实验组转化率 |
|---|---|---|---|---|
| 1 周 | 7,000 | +28.7% | 0.86 个百分点 | 3.86% |
| 2 周 | 14,000 | +19.9% | 0.60 个百分点 | 3.60% |
| 3 周 | 21,000 | +16.1% | 0.48 个百分点 | 3.48% |
| 4 周 | 28,000 | +13.9% | 0.42 个百分点 | 3.42% |
| 6 周 | 42,000 | +11.3% | 0.34 个百分点 | 3.34% |
| 8 周 | 56,000 | +9.7% | 0.29 个百分点 | 3.29% |
按样本量看 MDE
样本量取 1/4、1/2、2 倍、4 倍时的 MDE,当前这一行高亮。
分享这组输入:数值写在链接的 # 后面,不会发到服务器。
https://tapcub.com/zh/tools/minimum-detectable-effect-calculator
版本 v1.0更新于 更新记录
这几个数字是什么意思
MDE 是实验设计的属性,不是实验结果。开测之前算出来,和你实际预期的提升比一比。
相对 MDE
在设定功效下能测出的最小提升,按基线的比例表示。基线 3%、每组 28,000 人时是 +13.9%。
绝对 MDE
同一个提升换成百分点:0.42 个百分点,也就是实验组要到 3.42% 左右才能被可靠测出。
按周对照表
MDE 随样本量的平方根缩小。跑 1 周能测出 +28.7%,4 周 +13.9%,8 周 +9.7%:时间每翻一倍,换来的越来越少。
MDE 太大怎么办
如果 MDE 比这个改动可能带来的提升还大,实验大概率以「不显著」收场,哪怕改动其实有效。先改设计再开测。
功效指的是:真实效应正好等于 MDE 时测出来的概率。更大的效应更容易测出,更小的效应测出的概率更低,但不是零。
开测之前先做一次体检
排期或流量已经定死时,用它判断这个实验值不值得做。
-
1
填基线
要测试那一步现在的转化率。
-
2
描述流量
填日访客、实验流量比例和天数,或者直接填每组能拿到的样本量。
-
3
α 和功效用常用值
5% 和 80% 是常见默认值。同样的样本,功效调到 90%,MDE 会变大。
-
4
和预期比一比
改动可能带来 3% 的提升,MDE 却是 14%,那就延长实验,或者测一个改动更大的方案。
把样本量公式反过来解
双尾双比例 z 检验的样本量公式由 p₁、p₂ 算出 n;反过来由 n 求 p₂ 没有显式解,所以计算器用数值方法求解(对相对提升二分,直到公式算出的样本量等于你的样本量)。
- 每组访客 = ⌊ 日访客 × 实验流量比例 × 天数 ÷ 分组数 ⌋
- 只解「提升」方向。检测同样幅度的下降需要的样本略有不同,因为方差 p(1 − p) 随转化率变化
- 多个实验组时不调整显著性水平;分组较多时可以考虑选 1%
- 假设与样本量计算器相同:固定样本、结束时只看一次、访客相互独立
样本量公式
n(p₂) = ( z₁₋α/₂ √(2p̄(1 − p̄)) + z₁₋β √(p₁(1 − p₁) + p₂(1 − p₂)) )² ÷ (p₂ − p₁)²
p₂ 离 p₁ 越远,n 越小
反解 p₂
找 p₂ > p₁,使 n(p₂) = n
n = 2,000 × 28 ÷ 2 = 28,000 → p₂ = 3.42%
换算
相对 MDE = p₂ ÷ p₁ − 1;绝对 MDE = p₂ − p₁
相对 +13.9%,绝对 0.42 个百分点
跑 1 到 8 周分别能测出多少
基线 3%,每天 2,000 名访客全部进入两组实验,α = 5%,功效 80%。
| 实验时长 | 每组访客 | 相对 MDE | 绝对 MDE | 实验组转化率 |
|---|---|---|---|---|
| 1 周 | 7,000 | +28.7% | 0.86 个百分点 | 3.86% |
| 2 周 | 14,000 | +19.9% | 0.60 个百分点 | 3.60% |
| 4 周 | 28,000 | +13.9% | 0.42 个百分点 | 3.42% |
| 6 周 | 42,000 | +11.3% | 0.34 个百分点 | 3.34% |
| 8 周 | 56,000 | +9.7% | 0.29 个百分点 | 3.29% |
从 4 周延长到 8 周,MDE 只从 13.9% 降到 9.7%。数字用本工具算出。
MDE 常被误读的地方
MDE 是实验规划里最容易被误解的一个数。
把相对 MDE 当成绝对值
基线 3% 时,MDE 15% 指 3% → 3.45%,不是 3% → 18%。对比不同工具之前,先看它报的是哪一种。
把 MDE 当成预期效果
MDE 是实验能看清的下限,不是改动会带来的效果。MDE 14% 的实验遇到真实 3% 的提升,通常会显示「不显著」。
把不显著当成没效果
MDE 20% 的实验结果不显著,只能说明效应大概率小于 20% 左右,不能说明效应为零。
把看不到改动的流量算进来
没走到被测元素的访客会稀释效应。流量要按改动所在的页面或步骤算。
基线和流量从哪里来
TapCub 不负责分流,也不运行实验,这部分由你的实验工具完成。TapCub 提供基线和日流量,并能按分组看转化。
最小可检测效应(MDE)是什么?
在给定显著性水平和功效(通常 80%)下,实验设计能可靠测出的最小真实差异。比 MDE 小的效应也可能存在,只是这个实验多半测不出来。
MDE 怎么算?
把双比例样本量公式反过来,已知样本量求实验组转化率。没有显式解,需要数值求解。基线 3%、每组 28,000 人时,相对 MDE 是 +13.9%,绝对 0.42 个百分点。
A/B 测试的 MDE 定多少合适?
要比这个改动实际可能带来的提升小。改版结算流程有可能带来 10% 的提升,换个按钮颜色很少能做到。MDE 远大于预期时,按这个设计跑意义不大。
填相对 MDE 还是绝对 MDE?
两者描述的是同一个效应。相对是提升占基线的比例(+15%),绝对是两个转化率差几个百分点(+0.45)。计算器两个都给。
怎么让 MDE 变小?
让每组样本更多:延长实验、提高实验流量比例、减少分组。换一个基线更高的步骤也有用,同样的相对提升在 20% 上比在 1% 上容易看出来:基线 20% 时 4 周就能测出 +4.8%。
实验时间翻倍,MDE 为什么没有减半?
MDE 大致和样本量的平方根成反比。样本翻倍,MDE 只缩小到约 1/1.4;样本要翻 4 倍,MDE 才减半。
功效对 MDE 有什么影响?
同样的样本,功效越高 MDE 越大。默认例子里功效从 80% 调到 90%,MDE 从 +13.9% 变成 +16.2%。