Hello兄弟姐妹萌好,我是不想努力的小P。今天继续为大家推荐一本好书:《A/B测试:创新始于试验》,推荐指数三星半。(以下简称A/B测试)本书的作者是吆喝科技的创世人王晔,先后任职于NEC、微软、谷歌等国际知名公司,任职期间负责P2P流媒体优化、P4P/ALTO、Google Adwords质量与移动广告新产品等前沿项目的设计、开发及优化工作,积累了大量实验创新的理论和实战经验。
我们如今看到的各种互联网产品的改版以及创新,其背后都离不开试验工作,其中被互联网、移动互联网行业广泛应用的试验方法是A/B测试。A/B测试的本质是试验,作为一种新兴的网页优化方法,通过对比实验增加转化率和注册率,带来产品和运营的创新,以实现各项指标的增长,如今他更是增长黑客所必备的核心思维方式和工作方法。在流量日渐昂贵、精细化运营的大环境下,互联网产品、运营和市场营销人员主要具备A/B测试思维,以测试结果为依据做营销决策,优化页面,提高转化率,迭代产品。
按照小P来划分这本书的结构,可以简单的分成;两部分。第一部分主要讲了试验
以及A/B测试的重要性,其中穿插科普了统计学的相关知识;第二部分列举了很多的A/B测试相关的试验案例。
本书开篇从达尔文雀和现代医学的角度剖析证明,生活处处是试验,试验能帮我们更清楚的了解世界。其实关于A/B测试的重要性小P相信不需要向大家描述很多,因为对本文感兴趣的同学基本也已经认同了A/B测试的重要,那么我们首先来系统的定义下A/B测试。
在互联网产品迭代实验中的A/B测试是指:为了验证一个新的产品交互设计、产品功能或者策略的效果,在同一时间段,给多组用户(一般叫作对照组和试验组,用户的分组方法统计上随机,使多组用户在统计角度无差别)分别展示优化前(对照组)和优化后(试验组,可以有多组)的产品交互设计、产品功能或者策略、算法,并通过数据分析,判断优化前后的产品交互设计、产品功能或者策略、算法在一个或者多个评估指标上是否符合预期的一种试验方法。
A/B测试包含三种特性:预测性、并行性和科学性。随着数据驱动决策的思想在互联网及传统企业中的普及,很多人开始重视A/B测试。然而,有些人只是根据字面意义理解,并没有产生更多的思考,我们来列一下“伪”A/B测试的集中常见形式:
1. 用户分流不科学。比如在不同的应用市场发布不同版本的App,或者在不同的渠道发布不同版本的页面,并进行用户数据对比,都是不科学的。在这里最重要一点是:要得到科学可信的A/B测试试验结果,就必须合理地进行正确的流量分割,保证试验组和对照组里的用户特征是一致的,并且都具有代表性,可以代表总体用户特征。
2. 盲目分层。盲目分层是指所有的试验都放在不同的分层去做,都用正交试验的方法去做。
3. 不考虑试验数据的统计有效性。针对数据统计本书花了一部分来介绍统计学原理方面的知识,有兴趣的同学可以去看一下,还是很有收获的。
举个例子来说,2013年爱彼迎对搜索页进行了改版设计。对于爱彼迎而言,搜索页是
业务流程最基础和重要的页面。因此,能否准确地确定改版的效果是非常关键的。我们在下图能看出搜索页改版前后的变化;新版更多的强调了房源的图片以及标注了房源所在位置的地图。
大家单凭感觉来说,会不会觉得这是一次成功的改版呢?然而,结果在等待了很长的时
间后,A/B测试的结果反馈出新版并没有带来更多的预约。这当然是难以接受的,最后,爱彼迎的分析业务员发现,问题出现在了IE浏览器上:
除了IE浏览器外,其他主流的浏览器的表现都是优于旧版的。这个分析帮助爱彼迎发现了真正的问题:产品改进有很大价值,所以在修复相关的问题后,源于IE的数据也有了2%的增长,所以,验证你所使用的测试系统是否如你所期望的一样工作。如果A/B测试反馈的结果有问题或者过于理想,你应该仔细的检查他。
那么A/B测试在日常工作中怎样落地相应的作战计划呢?我们首先需要制定试验的战略,大致分为以下四步:
第1步,明确战略目标。这一点和小P带着大家简读《黑客增长》是差不多的,我们还是需要首先明确自己公司/产品的北极星指标。
第2步,制定战略路线图。制定北极星之后,各个团队应该如何合理地执行北极星指标呢?这里我们引入一个概念——指标树。指标树就是讲北极星指标进行合理的分解,拆解成各个业务可执行的具体指标,范例如下。在制定实施计划时,我们需要注意每个A/B测试项。
目的试验时间通常是一周到两周。对于流量很大的项目,如果不考虑用户的活跃时间特征,试验周期可能会缩短到一两天。而对于新功能上线的认证,为了排除用户新奇效应、首因效应等干扰因素,一般建议试验周期为一个月,甚至两个月。
第3步,管理试验项目。一般来说,管理项目的人员由产品人员、运营人员、市场人员、加上设计人员和开发人员组成,一个完整的A/B测试实施流程应如下图所示:
第4步,搭建试验的基础设施。最基础的设施包括两个:分流采样和实验结果的统计分析。分流采样就是科学地为A/B测试中的不同对照版本选择和分配用户流量,让不同的用户体验不同的试验方案。统计分析也需要我们具备置信区间估计、统计功效评估和实验数据的实时性才能达到基本的科学性标准。
制定战略过后,就是战略的执行了。在执行的探索阶段,我们主要的工作是收集信息和产生实验想法。一般来说,我们常见的收集实验渠道包括:业务背景、用户心理学等理论、用户行为数据分析、用户调研、行业调研以及实验归档。而在执行的验证阶段,就是一个迭代的过程,他帮助我们检验在探索阶段中产生的那些用户洞察是正确的,以及他们在现实场景中的最佳工作方式。
接下来,我们尝试开始上手一个实验。总体来说,A/B测试试验的创建主要包含下面5个步骤:
第一步。收集数据,从数据中发现存在的问题和机会。
第二步。基于要解决的问题设立试验目标,如提升注册转化率或者新用户留存率。
第三步。找到目标后,设计解决方案,提升试验的假设,如“将注册按钮的文案从立即注册改为获取演示可以带来更多的注册转化数量”。
第四步。进行A/B测试试验部署和上线。
第五步。实验开启后定期观察数据,通过显著性的统计结果来判断试验结果,从而做出科学有效的决策。
创建过后,就正式开始我们的实施。
1. 新建试验
2. SDK集成
3. 在线编辑试验版本
4. 创建优化指标
5. 集成调试
6. 调整流量,运行试验
7. 试验数据判断及结束试验
这样,我们就完整地实施了一次A/B测试。最后我们用书中一个在线教育的经典案
例来看一下,A/B测试是如何具体实操的。
案例:某在线教育企业的产品在移动端的推广效率成为其市场和产品部门非常重视的核心指标之一。为了促进投放H5页面的转化率,进一步提高用户的购买转化,产品部门决定通过A/B测试找到确定的优化方案。
如下图所示,我们可以看到两种设计版本主要的改变在于讲“60万好老师”改为“名师1对1辅导”、将“预约免费试听课”改为“寻找自己的1对1老师”、将“免费试听”改为“快速预约”,其余元素基本保持不变。
在移动端进行广告投放后的试验结果非常有意思,在页面按钮的点击转化方面,原始版本比试验版本高10%。而在后续的实际购买转化方面,试验版本则比原始版本高出9&。对于此试验结果,需要结合自身企业发展阶段来评估最优版本。如果处在产品刚起步阶段,此时需要更多地拉新用户,那么原始版本更好,因为能获得更多潜在用户的资料;如果产品发展到一定阶段,更关注的是用户付费转化和客单价等指标,那么试验版本更好,因为可以带来更多订单。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-12以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-11随着数字化转型的加速,企业积累了海量数据,如何从这些数据中挖掘有价值的信息,成为企业提升竞争力的关键。CDA认证考试体系应 ...
2025-03-10推荐学习书籍 《CDA一级教材》在线电子版正式上线CDA网校,为你提供系统、实用、前沿的学习资源,助你轻松迈入数据分析的大门! ...
2025-03-07在数据驱动决策的时代,掌握多样的数据分析方法,就如同拥有了开启宝藏的多把钥匙,能帮助我们从海量数据中挖掘出关键信息,本 ...
2025-03-06