TapCub 正式上线:统计、分析、客服一个平台免费用

免费工具 最小可检测效应(MDE)计算器

流量和排期都定死的时候,真正的问题是「这个实验能看出多大的差别」。填基线转化率,再填每组样本量或日流量和实验天数,计算器在设定的显著性水平和功效下,反推出实验能可靠测出的最小提升。

  • 样本量公式的反解
  • 1–8 周 MDE 对照
  • 本地计算
计算器

这个实验能测出多小的提升

MDE 用和样本量计算器同一个双比例公式数值反解,把结果填回样本量计算器,得到的就是你的样本量。

对照组现在的转化率。3% 填 3。

日流量和实验天数,或者每组能拿到的样本量。

分流之前、符合实验条件的日访客,支持「1.2万」写法。

全量实验填 100,灰度 50% 填 50。

建议整周:14、21、28……

对照组加实验组。普通 A/B 填 2。

能接受的误报概率,常用 5%。

真实效应正好等于 MDE 时测出来的概率,常用 80%。

每组 28,000 人时,实验能可靠测出从 3.00% 到 3.42% 的提升(+13.9%)。更小的真实效应可能存在,但这个实验多半测不出来。

相对 MDE

+13.9%

相对基线的最小提升。

绝对 MDE(百分点)

0.42

同一个提升换成百分点。

实验组要达到的转化率

3.42%

基线 + 绝对 MDE。

每组访客

28,000

每天进实验的访客 × 天数 ÷ 分组数。

按实验时长看 MDE

跑得越久能测出的效应越小,但很慢:样本翻 4 倍,MDE 才减半。

实验时长每组相对 MDE绝对(百分点)实验组转化率
1 周7,000+28.7%0.86 个百分点3.86%
2 周14,000+19.9%0.60 个百分点3.60%
3 周21,000+16.1%0.48 个百分点3.48%
4 周28,000+13.9%0.42 个百分点3.42%
6 周42,000+11.3%0.34 个百分点3.34%
8 周56,000+9.7%0.29 个百分点3.29%
全部在你的浏览器里计算。这里输入的任何内容都不会上传,TapCub 也不会保存。

分享这组输入:数值写在链接的 # 后面,不会发到服务器。

版本 v1.0更新于 更新记录

结果怎么读

这几个数字是什么意思

MDE 是实验设计的属性,不是实验结果。开测之前算出来,和你实际预期的提升比一比。

相对 MDE

在设定功效下能测出的最小提升,按基线的比例表示。基线 3%、每组 28,000 人时是 +13.9%。

绝对 MDE

同一个提升换成百分点:0.42 个百分点,也就是实验组要到 3.42% 左右才能被可靠测出。

按周对照表

MDE 随样本量的平方根缩小。跑 1 周能测出 +28.7%,4 周 +13.9%,8 周 +9.7%:时间每翻一倍,换来的越来越少。

MDE 太大怎么办

如果 MDE 比这个改动可能带来的提升还大,实验大概率以「不显著」收场,哪怕改动其实有效。先改设计再开测。

功效指的是:真实效应正好等于 MDE 时测出来的概率。更大的效应更容易测出,更小的效应测出的概率更低,但不是零。

怎么用

开测之前先做一次体检

排期或流量已经定死时,用它判断这个实验值不值得做。

  1. 1

    填基线

    要测试那一步现在的转化率。

  2. 2

    描述流量

    填日访客、实验流量比例和天数,或者直接填每组能拿到的样本量。

  3. 3

    α 和功效用常用值

    5% 和 80% 是常见默认值。同样的样本,功效调到 90%,MDE 会变大。

  4. 4

    和预期比一比

    改动可能带来 3% 的提升,MDE 却是 14%,那就延长实验,或者测一个改动更大的方案。

计算公式

把样本量公式反过来解

双尾双比例 z 检验的样本量公式由 p₁、p₂ 算出 n;反过来由 n 求 p₂ 没有显式解,所以计算器用数值方法求解(对相对提升二分,直到公式算出的样本量等于你的样本量)。

  • 每组访客 = ⌊ 日访客 × 实验流量比例 × 天数 ÷ 分组数 ⌋
  • 只解「提升」方向。检测同样幅度的下降需要的样本略有不同,因为方差 p(1 − p) 随转化率变化
  • 多个实验组时不调整显著性水平;分组较多时可以考虑选 1%
  • 假设与样本量计算器相同:固定样本、结束时只看一次、访客相互独立

样本量公式

n(p₂) = ( z₁₋α/₂ √(2p̄(1 − p̄)) + z₁₋β √(p₁(1 − p₁) + p₂(1 − p₂)) )² ÷ (p₂ − p₁)²

p₂ 离 p₁ 越远,n 越小

反解 p₂

找 p₂ > p₁,使 n(p₂) = n

n = 2,000 × 28 ÷ 2 = 28,000 → p₂ = 3.42%

换算

相对 MDE = p₂ ÷ p₁ − 1;绝对 MDE = p₂ − p₁

相对 +13.9%,绝对 0.42 个百分点

算例

跑 1 到 8 周分别能测出多少

基线 3%,每天 2,000 名访客全部进入两组实验,α = 5%,功效 80%。

不同实验时长下的最小可检测效应
实验时长每组访客相对 MDE绝对 MDE实验组转化率
1 周7,000+28.7%0.86 个百分点3.86%
2 周14,000+19.9%0.60 个百分点3.60%
4 周28,000+13.9%0.42 个百分点3.42%
6 周42,000+11.3%0.34 个百分点3.34%
8 周56,000+9.7%0.29 个百分点3.29%

从 4 周延长到 8 周,MDE 只从 13.9% 降到 9.7%。数字用本工具算出。

常见错误

MDE 常被误读的地方

MDE 是实验规划里最容易被误解的一个数。

把相对 MDE 当成绝对值

基线 3% 时,MDE 15% 指 3% → 3.45%,不是 3% → 18%。对比不同工具之前,先看它报的是哪一种。

把 MDE 当成预期效果

MDE 是实验能看清的下限,不是改动会带来的效果。MDE 14% 的实验遇到真实 3% 的提升,通常会显示「不显著」。

把不显著当成没效果

MDE 20% 的实验结果不显著,只能说明效应大概率小于 20% 左右,不能说明效应为零。

把看不到改动的流量算进来

没走到被测元素的访客会稀释效应。流量要按改动所在的页面或步骤算。

常见问题

最小可检测效应常见问题

还有其他问题?

直接和 TapCub 团队聊聊——工作日通常几小时内回复。

最小可检测效应(MDE)是什么?

在给定显著性水平和功效(通常 80%)下,实验设计能可靠测出的最小真实差异。比 MDE 小的效应也可能存在,只是这个实验多半测不出来。

MDE 怎么算?

把双比例样本量公式反过来,已知样本量求实验组转化率。没有显式解,需要数值求解。基线 3%、每组 28,000 人时,相对 MDE 是 +13.9%,绝对 0.42 个百分点。

A/B 测试的 MDE 定多少合适?

要比这个改动实际可能带来的提升小。改版结算流程有可能带来 10% 的提升,换个按钮颜色很少能做到。MDE 远大于预期时,按这个设计跑意义不大。

填相对 MDE 还是绝对 MDE?

两者描述的是同一个效应。相对是提升占基线的比例(+15%),绝对是两个转化率差几个百分点(+0.45)。计算器两个都给。

怎么让 MDE 变小?

让每组样本更多:延长实验、提高实验流量比例、减少分组。换一个基线更高的步骤也有用,同样的相对提升在 20% 上比在 1% 上容易看出来:基线 20% 时 4 周就能测出 +4.8%。

实验时间翻倍,MDE 为什么没有减半?

MDE 大致和样本量的平方根成反比。样本翻倍,MDE 只缩小到约 1/1.4;样本要翻 4 倍,MDE 才减半。

功效对 MDE 有什么影响?

同样的样本,功效越高 MDE 越大。默认例子里功效从 80% 调到 90%,MDE 从 +13.9% 变成 +16.2%。

更新记录

更新记录

这个工具的新功能、修复和数据更新,最新的在前。

  1. · v1.0

    首次上线首次上线。

缺功能或发现错误?告诉我们,常被提到的会排进下次更新。 全部工具更新

看清数据,找到增长。

每一次点击,都有数据依据。装好一行代码,1 分钟看到第一批数据。

无需信用卡 · 统计与客服都有免费版 · 统计无 Cookie