免费工具 A/B 测试时长计算器:实验到底要跑几天
样本量算出来之后,下一个问题是「要跑到哪天」。填上页面日访客、放进实验的流量比例、基线转化率和想检测的最小提升,计算器给出需要的天数,按整周取整,实验拖得太长时会提醒你。
- 按整周排期
- 与样本量计算器同一公式
- 本地计算
这个实验要跑多久
时长 = 所有分组需要的访客 ÷ 每天进入实验的访客。每组样本量和「A/B 测试样本量计算器」同输入同结果。
对照组现在的转化率,取要测试的那个页面、那个事件。3% 填 3。
相对:15 表示 3% → 3.45%。绝对:0.45 表示 3% → 3.45%(百分点)。
值得检测出来的最小提升,单位按上面选的类型。
分流之前、符合实验条件的日访客,支持「1.2万」「12,000」写法。
全量实验填 100;只放一半流量(灰度 50%)填 50。
对照组加实验组。普通 A/B 填 2,A/B/C 填 3。
能接受的误报概率,常用 5%。
提升真实存在时能测出来的概率,常用 80%。
建议实验天数
28
向上取整到整周。
流量需要的天数
25
总样本 ÷ 每天进入实验的访客,向上取整。
每组访客
24,193
和样本量计算器一致。
总访客
48,386
每组访客 × 分组数。
换个效应大小会怎样
同一个实验,最小可检测效应取 0.5、0.75、1.5、2 倍时要跑多久,当前这一行高亮。
| 相对 MDE | 绝对(百分点) | 每组 | 天数 | 整周 |
|---|---|---|---|---|
| +7.5% | 0.22 个百分点 | 93,508 | 94 | 14 周 |
| +11.2% | 0.34 个百分点 | 42,285 | 43 | 7 周 |
| +15.0% | 0.45 个百分点 | 24,193 | 25 | 4 周 |
| +22.5% | 0.67 个百分点 | 11,114 | 12 | 2 周 |
| +30.0% | 0.90 个百分点 | 6,455 | 7 | 1 周 |
分享这组输入:数值写在链接的 # 后面,不会发到服务器。
https://tapcub.com/zh/tools/ab-test-duration-calculator
版本 v1.0更新于 更新记录
四个数字分别是什么
这份排期就是停止规则:开测之前定好哪天结束,到那天再看一次结果。
建议实验天数
流量需要的天数向上取整到 7 的倍数。默认例子 24.2 天的流量,排成 4 周、28 天。开始和结束放在一周的同一天。
流量需要的天数
总样本 ÷ 每天进入实验的访客。灰度只放 50% 流量,天数翻倍:默认例子从 25 天变成 49 天。
每组访客
和「A/B 测试样本量计算器」完全一致:基线 3%、相对提升 15%、显著性 5%、功效 80% 时,每组 24,193 人。
效应大小对照表
看时长对效应大小有多敏感。最小可检测效应减半,时长差不多变成 4 倍:从 25 天变成 94 天。
整周只是下限,不保证结果干净。实验期间碰上节假日、大促、发版,结果照样会被带偏,排期时尽量避开。
四步排出实验日历
流量填真正会进入实验的那部分,不是全站访客。
-
1
量出基线
取要测试的那个页面、那个事件最近一段正常时期的转化率(避开大促)。
-
2
定下值得检测的效应
选相对或绝对,填「至少提升多少才值得上线」。
-
3
填流量
页面日访客,以及放进实验的比例。每多一个实验组,分组数加 1。
-
4
看排期
按建议的整周数排期。出现过长提醒时,用下面的对照表看看放大效应能省多少天。
从样本量到整周
每组样本量用双尾双比例 z 检验的标准公式(固定样本、不做连续性校正),和「A/B 测试样本量计算器」是同一个公式,两页同输入同结果。
- 绝对效应先换成相对值:相对 = 绝对 ÷ 基线(3% 上的 0.45 个百分点 = 15%)
- 每天进入实验的访客 = 页面日访客 × 实验流量比例
- 取整周是为了消除星期效应:周五开始、跑 10 天的实验,周五、周六、周日各算了两次,其它几天各一次
- 8 周提醒是经验做法,不是统计上的界限:超过两个月,cookie 流失和季节变化会让「谁在哪一组」越来越模糊
每组访客
n = ( z₁₋α/₂ √(2p̄(1 − p̄)) + z₁₋β √(p₁(1 − p₁) + p₂(1 − p₂)) )² ÷ (p₂ − p₁)²
p₁ = 3%,p₂ = 3.45% → 24,193
流量天数
天数 = ⌈ n × 分组数 ÷ (日访客 × 流量比例) ⌉
48,386 ÷ (2,000 × 100%) = 24.2 → 25
建议天数
建议 = 7 × ⌈ 天数 ÷ 7 ⌉
25 天 → 4 周 → 28 天
同一个实验,流量和效应不同
每一行都按显著性 5%、功效 80%、两组计算。
| 基线 | 相对 MDE | 每天进实验 | 每组 | 流量天数 | 建议排期 |
|---|---|---|---|---|---|
| 3% | 15% | 2,000 | 24,193 | 25 | 4 周 |
| 3% | 15% | 1,000(灰度 50%) | 24,193 | 49 | 7 周 |
| 3% | 15% | 800 | 24,193 | 61 | 9 周 ⚠ |
| 3% | 10% | 2,000 | 53,211 | 54 | 8 周 |
| 10% | 15% | 2,000 | 6,693 | 7 | 1 周 |
标 ⚠ 的行超过 8 周会触发提醒。基线 10% 那行 7 天就够,排期仍是一整周。数字用本工具算出。
实验排期常见的坑
多数失败的实验不是样本量算错,而是在错误的那天停了。
周中就停
样本够了就在第 10 天停,有几天的权重是别的日子的两倍。跑整周,开始和结束放在一周的同一天。
一显著就停
这里的时长假设只在结束时看一次。每天盯着、第一次 p < 0.05 就停,误报率会远高于 5%。
拿全站流量来算
只有到达被测页面、满足实验条件的访客才算数。填全站访客,算出来的时长会偏短。
一跑就是几个月
实验太长会混进噪声:老用户换了设备被分进另一组,节假日、618、双 11 也会让基线漂移。
这些输入从哪里来
TapCub 不负责分流,也不运行实验,这部分由你的实验工具完成。TapCub 提供排期要用的数字,以及按分组看转化的方法。
A/B 测试要跑多久?
跑到每组都达到事先算好的样本量,再向上取整到整周。基线 3%、相对提升 15%、每天 2,000 人进实验,需要 24.2 天的流量,所以排 4 周。
为什么要按整周跑?
工作日和周末的访客行为不一样。每个星期几覆盖的次数相同,这种周期才不会让结果偏向某一边。这也意味着开始和结束放在一周的同一天。
A/B 测试最少跑几天?
至少一整周,哪怕样本提前够了。很多团队习惯至少两周,让某一天的异常分量小一些。
实验跑多久算太长?
没有硬性上限,但超过 8 周左右样本会越来越乱:用户清 cookie、换设备后被当成新人分进另一组,季节和活动也会让基线变化。计算器从 8 周开始提醒。
最小可检测效应填相对值还是绝对值?
都可以,关键是清楚自己填的是哪种。基线 3% 时,相对提升 15% 是 3% → 3.45%;绝对提升 1 个百分点是 3% → 4%,每组只要 5,301 人,而不是 24,193 人。
灰度只放一部分流量,时长怎么变?
时长和流量比例成反比。只放 50% 的流量,天数翻倍;每组需要的样本量不变。
多加一个实验组,实验会变长吗?
会。每组都要满额样本,三组需要的流量是两组的 1.5 倍:默认例子从 25 天变成 37 天。