乐趣区

关于ab测试:解析胜出概率AB实验与抛硬币的对比与探讨

在之前的文章中,FeatureProbe 介绍了如何应用贝叶斯办法进行 AB 试验的数据分析。如果你还没有浏览过该文章,能够点击链接进行浏览。

明天咱们将通过两个活泼的例子——电商产品 AB 试验和抛硬币试验,具体论述转化率和胜出概率之间的关系。无论是首次接触 FeatureProbe 数据分析的用户,还是对转化率和胜出概率之间的差别感到困惑的用户,本文都将帮忙你更好地了解这些概念。

一、电商 AB 试验场景

咱们先来看一个 AB 试验场景的例子,假如你是一个电商利用的开发者,你心愿改良产品详情页面的布局设计,以减少用户点击『下单』按钮的次数。然而,你并不确定新的页面设计是否会更受用户青睐,因而决定进行一个 AB 试验来比拟新旧两个版本的成果。

在试验中,咱们先应用 FeatureProbe 创立一个布尔型(Bool)开关,用“A 组”代码旧版产品详情页面,用“B 组”代表新版详情页面。当用户点击『下单』按钮时,你能够上报一个『下单』事件。如果有用户浏览了这个详情页但没有点击『下单』按钮,你能够晓得该用户进入了试验,并且理解他们是看到了 “A 组 ” 还是“B 组”,但你不会收到这些用户的『下单』事件。

咱们通常总是使用率指标,而不会应用个数,这样能够打消 AB 两组进入用户数(样本量)不统一的问题,相当于咱们用样本数做了归一化。

一开始的咱们设置一半用户看到 A 组,一半用户看到 B 组,即两组的样本比方是 50:50,设置完后性能上线。在咱们上线性能后的第二天,咱们对前一天的数据进行了剖析。总共有 100 个用户,其中 48 个用户进入了 A 组,而 52 个用户进入了 B 组。只管咱们设置了一个 50:50 的样本比例,但理论分组后果并没有齐全达到这个指标。这是因为样本分组波及到概率性的因素,样本量较少时可能会产生肯定的偏差。

而后咱们发现 48 个进入了“A 组”的用户,22 个点击了『下单』,转化率 45%(先疏忽我的除法精度问题)。52 个进入了“B 组”的用户,29 个点击了『下单』,转化率 55%。而后平台还算出了一个“B 组”的胜出概率 80%,这个胜出概率是什么意思呢?

看到这里,大家必定会好奇这个胜出概率的计算公式,这里先卖个关子。接下来我用大家比拟相熟的抛硬币试验,让大家可能更形象的了解什么是胜出概率以及有哪些因素会影响胜出概率的值。

二、抛硬币试验

假如张三喜爱与人们赌猜硬币正反面。一天,你给了张三两个硬币,并通知张三其中一个硬币比另一个更有可能呈现侧面。张三进行了一些试验,但因为张三比拟懒,只对第一个硬币进行了 48 次抛掷,失去了 22 个侧面;对第二个硬币进行了 52 次抛掷,失去了 29 个侧面。当初张三想晓得当前是否应该每次都应用第二个硬币来打赌(张三是一个正常人,他会抉择押注侧面,而且他心愿赢而不是输。),回到之前的电商上线 AB 试验的例子,依据算进去的转化率是否要将 “B 组 ” 新页面全量上线?

如果你是张三,你如何思考呢?是否会认为第二个硬币的侧面概率肯定是 55%,只有进行足够多的尝试,是否肯定会赢(100% 胜率)?或者会放心,当初只试验了 52 次,如再试验 48 次全副呈现背面,那么再应用这个硬币去和他人打赌,那不就是输定了吗?

张三对于抉择第二个硬币有多大的信念呢?如果咱们将这个信念水平示意为一个概率,那么这个概率就能够了解为他的胜率(请疏忽数学上的严谨性)。依据他刚刚抛两个硬币的一百次数据,他对抉择第二个硬币赢钱有多大的信念?这个信念值是 55% 吗?

当初,让咱们疏忽具体的概率值,先思考一下什么会影响这个信念值。如果张三不那么懒,他回家花了几天工夫,对这两个硬币别离进行了 1 万次抛掷,后果发现第一个硬币呈现了 4500 次侧面,而第二个硬币呈现了 5500 次侧面。这时,他决定当前都应用第二个硬币,他的信念减少了还是缩小了?

从直观体验来说,信念是不是减少了?也就是说胜率更大,但随着收集到数据量减少,尽管转化率数据不变,仍然是 55%。然而咱们对第二个硬币比第一个硬币赢的信念会更加动摇。以此类推,在转化率不变的状况下,样本量数值不一样,算进去的胜率也会不同。

另外,还有其余因素可能影响张三的信念,但在这里不具体探讨,留给大家思考。假如张三依然只抛掷了 48 和 52 次,失去了 45% 和 55% 的转化率。然而,如果一开始我通知他这两个硬币是我轻易找的,没有显著的区别(假如我没有扯谎),那么此时他对于当前应用第二个硬币的信念会减少还是缩小?

三、总结

通过上述两个例子,咱们能够总结出转化率和胜出概率之间的关系:

转化率是指某个特定事件的产生概率,通常用于形容某种转化过程中的成功率。在市场营销、广告或销售畛域,转化率指的是将潜在客户转化为理论客户或将浏览者转化为购买者的概率。转化率通常以百分比模式示意,示意胜利转化的比例。

胜出概率指的是在某种竞争、较量中获胜的概率,也能够间接了解为胜利的概率。它示意在给定的条件下,一个参与者或一个事件获胜或胜利的可能性有多大。胜出概率通常以百分比的模式来示意。

但在一些状况下,咱们是能够用一些科学计算办法,通过转化率能够用于计算胜出概率,特地是当转化率是决定胜出的关键因素之一时。然而,在其余状况下,胜出概率可能波及更多的因素,而不仅仅是转化率。

四、对于 FeatureProbe

FeatureProbe 团队始终致于个性治理技术的开发实际,通过个性治理能够更有无效地治理和追踪个性的全生命周期,能够实现更好的我的项目管制和更高的交付效率。咱们的指标是通过个性治理技术优化产品公布流程,实现更灵便、可控的版本迭代和性能公布。分享个性治理技术的实际成绩,让更多人受害于个性治理技术。

获取更多对于 FeatureProbe 的最新动静,能够拜访以下地址关注咱们!

GitHub: https://github.com/FeatureProbe/FeatureProbe

体验环境:https://docs.featureprobe.io/

文档地址:https://docs.featureprobe.io/zh-CN/

退出移动版