TapCub 正式上线:统计、分析、客服一个平台免费用

免费工具 A/B 测试时长计算器:实验到底要跑几天

样本量算出来之后,下一个问题是「要跑到哪天」。填上页面日访客、放进实验的流量比例、基线转化率和想检测的最小提升,计算器给出需要的天数,按整周取整,实验拖得太长时会提醒你。

  • 按整周排期
  • 与样本量计算器同一公式
  • 本地计算
计算器

这个实验要跑多久

时长 = 所有分组需要的访客 ÷ 每天进入实验的访客。每组样本量和「A/B 测试样本量计算器」同输入同结果。

对照组现在的转化率,取要测试的那个页面、那个事件。3% 填 3。

相对:15 表示 3% → 3.45%。绝对:0.45 表示 3% → 3.45%(百分点)。

值得检测出来的最小提升,单位按上面选的类型。

分流之前、符合实验条件的日访客,支持「1.2万」「12,000」写法。

全量实验填 100;只放一半流量(灰度 50%)填 50。

对照组加实验组。普通 A/B 填 2,A/B/C 填 3。

能接受的误报概率,常用 5%。

提升真实存在时能测出来的概率,常用 80%。

建议跑满 4 周(28 天)。48,386 名访客按每天 2,000 人需要 24.2 天;取整到整周,周一到周日每一天在结果里的分量才一样。

建议实验天数

28

向上取整到整周。

流量需要的天数

25

总样本 ÷ 每天进入实验的访客,向上取整。

每组访客

24,193

和样本量计算器一致。

总访客

48,386

每组访客 × 分组数。

换个效应大小会怎样

同一个实验,最小可检测效应取 0.5、0.75、1.5、2 倍时要跑多久,当前这一行高亮。

相对 MDE绝对(百分点)每组天数整周
+7.5%0.22 个百分点93,5089414 周
+11.2%0.34 个百分点42,285437 周
+15.0%0.45 个百分点24,193254 周
+22.5%0.67 个百分点11,114122 周
+30.0%0.90 个百分点6,45571 周
全部在你的浏览器里计算。这里输入的任何内容都不会上传,TapCub 也不会保存。

分享这组输入:数值写在链接的 # 后面,不会发到服务器。

版本 v1.0更新于 更新记录

结果怎么读

四个数字分别是什么

这份排期就是停止规则:开测之前定好哪天结束,到那天再看一次结果。

建议实验天数

流量需要的天数向上取整到 7 的倍数。默认例子 24.2 天的流量,排成 4 周、28 天。开始和结束放在一周的同一天。

流量需要的天数

总样本 ÷ 每天进入实验的访客。灰度只放 50% 流量,天数翻倍:默认例子从 25 天变成 49 天。

每组访客

和「A/B 测试样本量计算器」完全一致:基线 3%、相对提升 15%、显著性 5%、功效 80% 时,每组 24,193 人。

效应大小对照表

看时长对效应大小有多敏感。最小可检测效应减半,时长差不多变成 4 倍:从 25 天变成 94 天。

整周只是下限,不保证结果干净。实验期间碰上节假日、大促、发版,结果照样会被带偏,排期时尽量避开。

怎么用

四步排出实验日历

流量填真正会进入实验的那部分,不是全站访客。

  1. 1

    量出基线

    取要测试的那个页面、那个事件最近一段正常时期的转化率(避开大促)。

  2. 2

    定下值得检测的效应

    选相对或绝对,填「至少提升多少才值得上线」。

  3. 3

    填流量

    页面日访客,以及放进实验的比例。每多一个实验组,分组数加 1。

  4. 4

    看排期

    按建议的整周数排期。出现过长提醒时,用下面的对照表看看放大效应能省多少天。

计算公式

从样本量到整周

每组样本量用双尾双比例 z 检验的标准公式(固定样本、不做连续性校正),和「A/B 测试样本量计算器」是同一个公式,两页同输入同结果。

  • 绝对效应先换成相对值:相对 = 绝对 ÷ 基线(3% 上的 0.45 个百分点 = 15%)
  • 每天进入实验的访客 = 页面日访客 × 实验流量比例
  • 取整周是为了消除星期效应:周五开始、跑 10 天的实验,周五、周六、周日各算了两次,其它几天各一次
  • 8 周提醒是经验做法,不是统计上的界限:超过两个月,cookie 流失和季节变化会让「谁在哪一组」越来越模糊

每组访客

n = ( z₁₋α/₂ √(2p̄(1 − p̄)) + z₁₋β √(p₁(1 − p₁) + p₂(1 − p₂)) )² ÷ (p₂ − p₁)²

p₁ = 3%,p₂ = 3.45% → 24,193

流量天数

天数 = ⌈ n × 分组数 ÷ (日访客 × 流量比例) ⌉

48,386 ÷ (2,000 × 100%) = 24.2 → 25

建议天数

建议 = 7 × ⌈ 天数 ÷ 7 ⌉

25 天 → 4 周 → 28 天

算例

同一个实验,流量和效应不同

每一行都按显著性 5%、功效 80%、两组计算。

α = 5%、功效 80% 时的实验时长
基线相对 MDE每天进实验每组流量天数建议排期
3%15%2,00024,193254 周
3%15%1,000(灰度 50%)24,193497 周
3%15%80024,193619 周 ⚠
3%10%2,00053,211548 周
10%15%2,0006,69371 周

标 ⚠ 的行超过 8 周会触发提醒。基线 10% 那行 7 天就够,排期仍是一整周。数字用本工具算出。

常见错误

实验排期常见的坑

多数失败的实验不是样本量算错,而是在错误的那天停了。

周中就停

样本够了就在第 10 天停,有几天的权重是别的日子的两倍。跑整周,开始和结束放在一周的同一天。

一显著就停

这里的时长假设只在结束时看一次。每天盯着、第一次 p < 0.05 就停,误报率会远高于 5%。

拿全站流量来算

只有到达被测页面、满足实验条件的访客才算数。填全站访客,算出来的时长会偏短。

一跑就是几个月

实验太长会混进噪声:老用户换了设备被分进另一组,节假日、618、双 11 也会让基线漂移。

常见问题

A/B 测试时长常见问题

还有其他问题?

直接和 TapCub 团队聊聊——工作日通常几小时内回复。

A/B 测试要跑多久?

跑到每组都达到事先算好的样本量,再向上取整到整周。基线 3%、相对提升 15%、每天 2,000 人进实验,需要 24.2 天的流量,所以排 4 周。

为什么要按整周跑?

工作日和周末的访客行为不一样。每个星期几覆盖的次数相同,这种周期才不会让结果偏向某一边。这也意味着开始和结束放在一周的同一天。

A/B 测试最少跑几天?

至少一整周,哪怕样本提前够了。很多团队习惯至少两周,让某一天的异常分量小一些。

实验跑多久算太长?

没有硬性上限,但超过 8 周左右样本会越来越乱:用户清 cookie、换设备后被当成新人分进另一组,季节和活动也会让基线变化。计算器从 8 周开始提醒。

最小可检测效应填相对值还是绝对值?

都可以,关键是清楚自己填的是哪种。基线 3% 时,相对提升 15% 是 3% → 3.45%;绝对提升 1 个百分点是 3% → 4%,每组只要 5,301 人,而不是 24,193 人。

灰度只放一部分流量,时长怎么变?

时长和流量比例成反比。只放 50% 的流量,天数翻倍;每组需要的样本量不变。

多加一个实验组,实验会变长吗?

会。每组都要满额样本,三组需要的流量是两组的 1.5 倍:默认例子从 25 天变成 37 天。

更新记录

更新记录

这个工具的新功能、修复和数据更新,最新的在前。

  1. · v1.0

    首次上线首次上线。

缺功能或发现错误?告诉我们,常被提到的会排进下次更新。 全部工具更新

看清数据,找到增长。

每一次点击,都有数据依据。装好一行代码,1 分钟看到第一批数据。

无需信用卡 · 统计与客服都有免费版 · 统计无 Cookie