表单A/B测试:变量设计、样本量与统计显著性
一、B2B表单为什么难做A/B测试
电商页转化率3%至5%还算常见,B2B询盘表单的转化率常常只有1%至3%,访客量又小。这两个条件叠加,意味着统计检验需要的样本量被拉得很大。很多团队犯的第一个错误是:表单改了一版,三天看到提交多了两单,就宣布新表单胜出——这两单的波动在统计上完全在噪声范围内,下周可能又掉回去。
第二个错误是一次改一堆:字段数量、按钮文案、页面布局、信任徽章全换了,最后就算真的提升了,你也不知道是哪一项起作用,无法复制。表单本身的可靠性与防垃圾见询盘表单可靠性与送达,表单到CRM的打通见网站线索与CRM集成。
| 误区 | 表现 | 真实原因 |
|---|---|---|
| 三天就宣布胜出 | 看到多两单就上线新版 | 样本量不足,结果随机 |
| 一次改多处 | 字段+文案+布局全换 | 无法归因到具体变量 |
| 只看提交数量 | 提交多了就高兴 | 可能是垃圾提交变多 |
| 流量小还硬测 | 月访几百也做AB | 统计功效不够,永远不显著 |
| 中途偷看就停 | 看到领先就提前结束 | 反复偷看会虚增假阳性 |
二、变量设计:一次只改一个,改前先写假设
表单A/B测试的变量要从”对转化率影响最大、又最容易单独改动”的候选里挑。按经验优先级排:字段数量(删一个非必填字段)、首屏字段顺序(把最重要的问题放最前)、按钮文案(从Submit换成Get a quote)、信任元素(加/去隐私说明与认证徽章)、表单长度(长表单拆成两步)。
每个测试前写一句假设:”把公司名字段从必填改选填,预期提交率从3%提升到3.6%以上。”写不清预期方向和幅度的,不要开始测——因为你最后无法判断结果是否支持假设。网站文案语调怎么定,见B2B网站文案语调。
| 变量 | 典型改动 | 预期方向 | 所需样本量(基线3%) |
|---|---|---|---|
| 字段数量 | 必填从7个减到4个 | 提升20%至40% | 每组约2400至4700 |
| 按钮文案 | Submit换Get a quote | 提升10%至20% | 每组约4700至19000 |
| 字段顺序 | 高意愿问题前置 | 提升10%至15% | 每组约8000至19000 |
| 信任元素 | 加隐私/认证徽章 | 提升5%至15% | 每组约19000以上 |
| 表单结构 | 单页拆两步 | 提升20%至50% | 每组约1900至4700 |
三、样本量计算:别凭感觉定跑多久
样本量由三个数决定:基线转化率、想检测到的最小提升(MDE)、统计功效与显著性。行业通用取功效80%、显著性95%(即p<0.05)。基线越低、想测的提升越小,需要的样本越大。下面这张表按基线3%给出每组所需访问量,两组翻倍就是实验总流量。
用之前先算一笔账:你的站每月多少访问?如果月访2000,按每组4700算,单组要两个多月,加上分流时间,一个测试跑半年。这种情况下,与其纠结显著性,不如直接做高幅度改动(比如字段从7个砍到3个),把提升预期放大到30%以上,样本量才能压到你跑得动的范围。线索归因口径见首末触达与点击ID归因。
| 基线转化率 | 想测的相对提升 | 每组所需访问 | 月访1万时跑多久 |
|---|---|---|---|
| 3% | 50% | 约1100 | 约1周 |
| 3% | 30% | 约2400 | 约1.5周 |
| 3% | 20% | 约4700 | 约3周 |
| 3% | 10% | 约19000 | 约4个月 |
| 5% | 20% | 约2800 | 约2周 |
四、分流与周期:用户级分桶,跑满业务周期
分流必须按用户分桶,不能按请求:同一个用户这次看到A版下次看到B版,会造成体验混乱且数据污染。用cookie或用户ID固定其分组,跨会话保持一致。50/50均分最干净,不要因为担心新版本差就只给10%流量——小流量组样本更慢凑齐,且和大流量组不均衡会引入偏差。
周期上,至少跑满2周,覆盖完整工作日与周末。B2B访客工作日多、周末少,一周的数据可能恰好踩在工作日高峰;两周才能平滑掉这个波动。遇节假日、大促、广告投放波动期,实验要顺延,不要把这些特殊时段的流量算进常态。
| 参数 | 建议设置 | 理由 |
|---|---|---|
| 分流比例 | 50/50 | 两组均衡,统计最干净 |
| 分桶单位 | 用户ID/cookie | 同一用户固定一组,不跨版本 |
| 最短周期 | 2周 | 覆盖工作日/周末 |
| 理想周期 | 3至4周 | 样本更稳,抗异常波动 |
| 排除时段 | 大促/投放突变期 | 避免流量结构变化污染 |
五、统计显著性:p值怎么读,什么时候认输
实验跑完后,用双比例z检验或卡方检验比较两组转化率,看p值。p<0.05才算统计显著,即观察到的差异有95%以上概率不是随机波动。p值在0.05附近徘徊时,结论不可靠,要么继续跑加样本,要么承认这个改动测不出差别。
还有一个常被忽略的点:别只看主指标(提交量),要同时看质量指标。新表单提交率涨了20%,但如果其中一半是垃圾提交或无效邮箱,那提升就是假的。有效询盘率(销售判定为有效线索的比例)、无效提交率、表单中途放弃率都要一并看。理想客户画像见B2B理想客户画像。
| 结果情形 | 判断 | 动作 |
|---|---|---|
| p<0.05 且有效率不降 | 新版本胜出 | 全量上线,固化 |
| p<0.05 但垃圾率上升 | 数量假提升 | 不上线,加过滤重测 |
| p在0.05至0.10 | 边缘不显著 | 继续跑1周或承认测不出 |
| p>0.10 | 无显著差异 | 回滚旧版,换变量 |
| 反向显著下降 | 新表单更差 | 立即回滚,记录原因 |
FAQ 常见问题
写在最后
表单A/B测试的陷阱,不在于工具不会用,而在于小流量团队高估了自己能测出来的东西。月访几千的B2B站,绝大多数”优化”在统计上根本无法区分好坏,强行跑只会得到一堆模棱两可的p值。
更务实的路径是:把A/B测试留给幅度足够大的改动(字段砍掉一半、表单拆两步),把小改动交给定性走查和前后趋势对比。每季度认认真真跑完一两个大改动的完整测试,比每月试五个小改动却从没结论要有用得多。
一句可以记住的话:在小流量站上做A/B测试,最大的风险不是测错,是把噪声当成了规律——一次假胜,后面半年都在抄错作业。
