A/B 测试样本量计算器

输入基线转化率与目标提升,估算双臂实验每组所需样本量、实验时长与最小可检测提升(MDE)

在线 A/B 测试(A/B Test)样本量计算器:基于双侧 z 检验的标准双比例样本量公式,输入基线转化率、最小可检测提升 MDE、显著性水平 α 与统计功效 1−β, 即可估算每组所需样本量与实验天数;支持「相对提升 / 绝对百分点」两种口径自动换算,附 MDE 灵敏度对照表(平方反比直观呈现)与反向推算(现有样本能测出多小的提升)。 全部计算在浏览器本地完成,不上传任何数据。

实验参数

对照组当前的转化率,允许 0.1–99,如 5 表示 5%

口径:实验组 = 基线 ×(1 + MDE%),如基线 5% + 5% → 5.25%

示例口径:基线 5% · 相对提升 5% · α=0.05 · 功效 0.80,载入后右侧结果卡即给出该口径下每组所需样本量的精确值。

计算结果

每组所需样本量

122,124

用户 / 组

两组合计

244,248

实验组 + 对照组

转化率换算

5% → 5.25%

对照 → 实验组

α = 0.05(双侧)功效 1−β = 80%MDE:相对提升 +5.00%口径:双侧 z 检验 · 合并方差近似

实验时长估算

50/50 分流时每组各得 50% 流量

预计实验时长

13 天

按当前分流,每天每组可积累约 10,000 个样本,预计约 13 天达到每组 122,124 的样本量。

MDE 灵敏度对照(同基线)

相对提升 MDE对照 → 实验每组样本量相对当前 MDE
+1%5% → 5.05%2,996,698×24.54
+3%5% → 5.15%336,102×2.75
+5%5% → 5.25%122,124×1.00
+10%5% → 5.5%31,234×0.26

同基线下,样本量与 MDE 近似平方反比:想测越小的提升,样本量平方级增长。以基线 5%、α=0.05、功效 0.80 为例,检出相对 1% 约需每组 300 万样本,检出 10% 只需约 3.1 万。

反向推算:若每组只有固定样本量,能检出的最小相对提升

每组 1,000 样本

62.0%

最小可检测相对提升 MDE

每组 5,000 样本

25.9%

最小可检测相对提升 MDE

每组 10,000 样本

18.0%

最小可检测相对提升 MDE

样本量不足就提前下结论是 A/B 测试最常见的自欺;实验时长建议至少覆盖一个完整周期(7 天)以消除周内效应。

#A/B 测试样本量计算器是什么?

在启动 A/B 测试前必须回答两个问题:每组要积累多少用户、实验要跑多少天,结果才可信?本工具围绕双侧 z 检验的双比例样本量公式给出三个视角的答案: 正向——给定基线转化率、最小可检测提升 MDE、显著性水平 α 与统计功效 1−β,算出每组所需样本量与预计天数; 反向——给定现有样本量,算出最多能可靠检出的最小提升;横向——用灵敏度对照表展示 MDE 与样本量的平方反比关系,帮助你在「测多小的提升」与「投入多少流量」之间做取舍。全部计算在浏览器本地完成。

A/B 测试样本量怎么算?(公式通俗版)

样本量由「信号与噪声之比」决定:信号是你想检出的提升幅度 δ = p₂ − p₁,噪声是转化率本身的随机波动。标准公式为 n = ( z₁₋α/₂·√(2·p̄(1−p̄)) + z₁₋β·√(p₁(1−p₁)+p₂(1−p₂)) )² ÷ (p₂−p₁)²,其中 p̄ = (p₁+p₂)/2。

通俗地说:根号里的第一项是「把假阳性控制在 α 以内」的门槛,第二项是「把漏检控制在 β 以内」的门槛,两道门槛相加后要被信号 δ 覆盖,再取平方折算成人数。 转化率越接近 50% 波动越大、所需样本越多;提升幅度越小,样本量按平方反比膨胀。

α 和 β 是什么?(第一类 / 第二类错误人话版)

α(显著性水平)是第一类错误的概率:实验组其实并没有更好,你却宣布有效,相当于「冤枉好人」——α=0.05 意味着长期看每 20 次无差别的实验里约有 1 次报假阳性。 β 是第二类错误的概率:真实存在的提升没有被检出,相当于「放走真凶」;统计功效 1−β=0.80 表示真实提升有 80% 的把握被检出。 想同时少冤枉、少漏判,唯一的途径就是增加样本量——α 调小、功效调大都会推高所需样本数。

MDE 为什么决定样本量?(平方反比)

MDE(Minimum Detectable Effect,最小可检测效应)是你愿意为之下结论的最小提升。信号越微弱,越需要更多样本把它从随机波动里分辨出来,而且是平方级关系: 其他条件不变时,MDE 缩小一半,每组样本量约增至 4 倍;MDE 放大一倍,样本量约降为四分之一。这也解释了为什么在低基数指标上「想测 1% 的提升」动辄需要每组数百万样本—— 请先用本页的灵敏度表估算你的指标量级是否撑得起目标 MDE。

实验要跑多久?(7 天周期效应)

预计天数 = 每组样本量 ÷(日流量 × 单组分流比例),向上取整。但样本量攒够并不意味着随时可以停:用户行为有很强的周内效应(工作日与周末的访问意愿、转化意愿差异明显), 实验至少应完整覆盖一个周期(7 天),否则不同实验组可能落在不同的「星期几」上,引入系统性偏差。同理,也不建议每天盯着显著性「偷看」(peeking)—— 一不显著就停、一显著就停会显著抬高假阳性率;若确需中途决策,请使用序贯检验类方法而非固定样本量口径。

样本量不够怎么办?

四个方向按优先级尝试:① 提高 MDE——把正式实验留给足够大的改动(改版、新定价、新流程),微调类改动不必开实验;② 换更灵敏的指标或提高基线——把实验放到漏斗更靠后、 转化率更高的环节,或改用人均时长、客单价等连续指标,方差更小、所需样本更少;③ 接受更长的实验周期,用时间换检出力,并保证覆盖完整周;④ 若流量实在不足, 如实调低目标功效或改用支持中途决策的序贯/贝叶斯方案,而不是提前停实验宣布胜利——那只是把噪声当成了结论。

#常见问题 (FAQ)

A/B 测试每组需要多少样本?

由基线转化率、最小可检测提升 MDE、显著性水平 α 与统计功效 1−β 共同决定。以基线 5%、相对提升 5%(5%→5.25%)、α=0.05、功效 80% 为例,标准双侧 z 检验双比例公式给出每组约 12.2 万个样本;把 MDE 放大到相对 10%(5%→5.5%)则降至每组约 3.1 万。

α 和 β 有什么区别?

α 是第一类错误概率:没有效果却误判为有效(假阳性,冤枉好人),常用 0.05;β 是第二类错误概率:真实提升没有被检出(假阴性,漏掉真凶),功效 1−β 是检出真实提升的把握,常用 0.80。两者越严,所需样本量越大。

MDE 调大一倍,样本量怎么变?

近似平方反比:MDE 放大一倍,每组样本量约降为原来的四分之一;缩小一半则约增至四倍。例如基线 5% 时,检出相对 1% 的提升约需每组 300 万样本,检出 10% 只需约 3.1 万。

样本量不够就提前下结论会怎样?

固定样本量口径下中途「偷看」并提前停止,会让实际假阳性率远超设定的 α——大多数「显著」只是噪声。样本量不足时应提高 MDE、更换更灵敏的指标、接受更长实验周期,或改用序贯检验等支持中途决策的方法。

样本量基于双侧 z 检验与方差齐性近似,适用于大样本比例实验;结果为估算口径,实验平台内置计算器可能采用不同修正(如 CUPED、序贯检验),以平台口径为准。

相关工具推荐

单位换算器

支持长度、重量、温度、面积、体积等多种单位类型的相互转换

热门 新品 本地

科学计算器

高级数学运算,支持三角函数、对数、指数运算等科学计算,包含内存管理和历史记录

热门 新品 本地

统计学计算器

数据分析工具,支持描述统计、回归分析、概率分布、假设检验等统计计算

热门 新品 本地

方程求解器

一次方程、二次方程、方程组求解,支持图像绘制、牛顿迭代法和数值方法

热门 新品 本地

财务比率计算器

盈利能力、偿债能力、运营能力比率分析,支持图表展示、行业对比和财务健康评分

热门 新品 本地

贷款计算器

等额本息/等额本金还款计算、利息分析

热门 新品 本地

相关教程