[发明专利]A/B测试方法、装置及电子设备有效
申请号: | 202010097674.3 | 申请日: | 2020-02-17 |
公开(公告)号: | CN111309614B | 公开(公告)日: | 2022-10-18 |
发明(设计)人: | 程大曦;谢辉志;俞力;梁琛 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06F11/36 | 分类号: | G06F11/36 |
代理公司: | 北京晋德允升知识产权代理有限公司 11623 | 代理人: | 万铁占 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 测试 方法 装置 电子设备 | ||
本说明书实施例公开了一种A/B测试方法、装置及电子设备,其技术方案实质是,确定在A/B测试中的测试版本所分配的测试用户组,从所述测试用户组采集所述测试版本在运行时产生的测试指标数据,将这些测试指标数据与测试指标数据所属用户关联的历史指标数据进行比较,根据比较结果确定所述测试版本的评估指标,以利用所述评估指标评估所述测试版本是否达到预设指标条件。
技术领域
本说明书实施例涉及计算机技术领域,尤其涉及一种A/B测试方法、装置及电子设备。
背景技术
A/B测试,也叫随机实验或对照实验,在软件开发过程中,A/B测试是业界公认的评估新功能对客户行为影响的因果关系的最有效的手段,通过合理的实验设计、科学的流量分配,精细的统计推断等方式来获得可信的实验结论,保证A/B测试时得到的业务结论在后续正式推送至所有用户时以很大的概率维持不变。具体地,A/B测试为同一个优化目标提供不同业务版本,统计各业务版本在运行时产生的业务数据,利用业务数据评估各业务版本的优劣,最终做出决策。
发明内容
有鉴于此,本说明书实施例提供了一种提升评估精度的A/B测试方法、装置及电子设备。
本说明书实施例采用下述技术方案:
本说明书实施例提供一种A/B测试方法,包括:
确定在A/B测试中的测试版本所分配的测试用户组;
采集所述测试版本在运行时产生的测试指标数据;
将所述测试指标数据与所述测试指标数据所属用户关联的历史指标数据进行比较;
根据比较结果确定所述测试版本的评估指标,以利用所述评估指标评估所述测试版本是否达到预设指标条件。
本说明书实施例还提供一种A/B测试装置,包括:
第一确定模块,确定在A/B测试中的测试版本所分配的测试用户组;
采集模块,从所述测试用户组采集所述测试版本在运行时产生的测试指标数据;
比较模块,将所述测试指标数据与所述测试指标数据所属用户关联的历史指标数据进行比较;
第二确定模块,根据比较结果确定所述测试版本的评估指标,以利用所述评估指标评估所述测试版本是否达到预设指标条件。
本说明书实施例还提供一种电子设备,包括:
处理器;以及
被配置成存储计算机程序的存储器,所述计算机程序在被执行时使所述处理器执行以下操作:
确定在A/B测试中的测试版本所分配的测试用户组;
从所述测试用户组采集所述测试版本在运行时产生的测试指标数据;
将所述测试指标数据与所述测试指标数据所属用户关联的历史指标数据进行比较;
根据比较结果确定所述测试版本的评估指标,以利用所述评估指标评估所述测试版本是否达到预设指标条件。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
本说明书实施例提出一种A/B测试方法、装置及电子设备,其技术方案实质是,确定在A/B测试中的测试版本所分配的测试用户组,从所述测试用户组采集所述测试版本在运行时产生的测试指标数据,将这些测试指标数据与测试指标数据所属用户关联的历史指标数据进行比较,根据比较结果确定所述测试版本的评估指标,以利用所述评估指标评估所述测试版本是否达到预设指标条件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010097674.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种输液软袋出袋装置及出袋方法
- 下一篇:一种显示面板和显示装置