开展增长实验的步骤一般分为:产生实验想法、排序实验想法、设计实验、开发实验、分析实验结果、产出增长报告。下面我们分别介绍。
一、产生实验想法 1. 明确实验的目标我们开展增长实验一定是基于我们发现了什么问题。
是某个按钮转化率过低?还是某个功能留存率过低?找到问题,我们才能知道优化的方向。比如我们发现注册功能转化率仅为30%,那么我们可以制定我们的实验目标为:把注册功能转化率从30%提高到50%。下面我们都以注册功能转化率低的案例举例。
2. 找到问题产生的原因为了达成实验目标,我们要去发现问题产生的原因。
我们可以通过定性和定量两种方式来寻找问题产生的原因。
在定性方面,我们可以通过用户调研、用户可用性研究等方式来了解为什么注册功能转化率这么低。
在定量方面,我们可以通过数据来洞察。比如,通过漏斗模型是否可以查看用户在哪里流失率最高;通过用户分群,是否可以了解哪些用户注册转化率高、哪类用户注册转化率低等等。
3. 根据原因寻找解决方案知道问题产生的原因,寻找解决方案就容易了。
我们可以通过定性、定量以及最佳实践的方式来寻找解决方案。
定性、定量就不介绍啦,和“找到问题产生的原因”里面的大同小异。
这里聊聊最佳实践。所谓最佳实践就是那些公认为可能会提高转化率的方法。比如B=MAT模型、Lift模型。
在B=MAT模型中,想要提高用户的转化率这一行为(behavior),我们要给予用户足够的动机(motivation)、降低用户阻力并且提高能力(ability)、在适当情景下给予触发提醒(trigger)。
Lift模型主要分为价值主张、相关性、清晰度、焦虑感、注意力分散、紧迫性。
在这里我们利用以上的方式,假设针对“注册功能转化率低”得出的解决方案如下:
最后我们要根据前几步形成我们的实验假设。在这里给小伙伴分享一个实验假设的模板。
“如果[做了某个具体的改动],预计[某指标]可以提升[X%],因为[深层的原因,有数据支持]”
根据上文,我们的实验假设即可如下:
利用ICE可为我们的实验想法进行排序。ICE分为预期影响(Impact)、成功概率(Confidence)、容易程度(Ease)。
为三类指标分别赋予0-10的分值。最后的综合得分=预期影响的分数+成功概率的分数+容易程度的分数。
三、设计实验 1. 选择的实验的指标这里我们需要关注三类指标:核心指标、辅助指标、反向指标。
我们此次增长实验是针对哪类人?我们可以根据操作系统、浏览器类型、地区、来源的渠道等方式进行分组。比如针对注册转化率的增长实验,我们的受众就是通过百度搜索来的新安卓用户。
我们在做A/B测试的时候要有实验组和对照组。这里我们设一个前提,都是通过百度搜索新来的安卓用户。
假设我们这里开展“新用户注册时去掉邮箱等个人信息”的实验。
这样做的好处是,避免了其它变量对实验的影响。
3. 预估试验样本量明确受众后,我们还要知道需要多少的样本量才能证明我们的实验成立。
这里我们需要引入“统计显著性”的概念。统计显著性的含义是指两个群体的态度之间的任何差异是由于系统因素而不是偶然因素的影响。假如我们利用A/B测试做这个实验,发现转化率有差别,当统计显著性为95%,则说明有95%的可能性转化率的差别是真实存在的,有5%的可能性差别是由于误差引起的。
一般建议统计显著性为95%以上。
假设我们之前版本的注册转化率为20%,新版本的注册转化率为25%,统计显著性为95%时,我们则需要每个版本分配至少670个样本量。
假如我们想让统计显著性提高到99%,则至少需要700个样本量。
小伙伴如果需要此工具,只需在我的公众号回复“增长工具”即可获得。
4. 预估实验时长知道了样本量,接下来我们要预估实验要持续多久。对于某些实验可能很短的时间就能看出这个实验的真正结果,但对于某些实验可能需要更多的时间才能得到真正的结果。
这里我们用一个公示:
实验所需时间=所需总样本数量/页面每天访问数
假设针对“注册时去掉邮箱等个人信息”的实验,我们需要的样本量为1400(新旧版本分别700个样本量),每天注册页面访问人数为140。则实验时长=1400/140=10天。
四、开发实验首先我们要对数据进行埋点。
如果你是使用第三方的A/B测试工具,我们要确定实验的指标(前面已经叙述过)、找到此指标对应的用户行为,然后把我们的埋点需求写出来即可。数据会自动返回到A/B测试软件,A/B测试软件会自动计算实验的指标。
如果你是手动分析实验,也需要确认实验的指标、然后确立用户的行为。技术开发完埋点后,数据会返回到数据库,这时我们导出数据进行分析即可。
其次一定要对埋点进行测试。确保我们的数据是可靠的。
最后我们开发上线A/B测试版本即可。
五、分析实验结果 1. 评估结果的可信度我们可以把每个版本的访问数、转化人数输入进工具里,工具会帮我们计算统计显著性。如果有显著的统计学差异,证明我们的实验结果是可靠的。
假设我们的对照组的访问数是1000,转化数是60;实验组的访问数是1000,转化数是150。当我们把这些信息输入到工具后,得出此实验是具备显著性差异的,说明此实验的结果是可信的。
2. 关注三类指标我们要关注之前提到的核心指标、辅助指标以及反向指标。
根据上面的实验我们最终可以产出增长报告。增长报告主要记录实验的目标、实验的假设、实验的分值、实验的指标、实验的受众、实验的设计、实验结果、实验洞察以及后续计划等内容。这对我们沉淀增长知识、复盘回顾有极大的帮助。
这一期的内容暂时分享到这,后续会继续更新关于增长的内容,也希望和大家多多交流。
作者:付晓虎
来源:小老虎Speak