[发明专利]实时数据标签获取方法、装置、计算机设备和存储介质在审

专利信息
申请号: 201910923962.7 申请日: 2019-09-27
公开(公告)号: CN110825820A 公开(公告)日: 2020-02-21
发明(设计)人: 章育涛 申请(专利权)人: 中国平安财产保险股份有限公司
主分类号: G06F16/28 分类号: G06F16/28;G06F16/27;G06F16/22
代理公司: 深圳众鼎专利商标代理事务所(普通合伙) 44325 代理人: 张美君
地址: 518000 广东省深圳市*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 实时 数据 标签 获取 方法 装置 计算机 设备 存储 介质
【权利要求书】:

1.一种实时数据标签获取方法,其特征在于,所述方法包括:

接收服务器后端发送的实时消息,并从所述实时消息中获取用户行为数据;

根据预设分析任务中的预设指标,从所述用户行为数据中,提取与所述预设指标中的字段具有相关性的字段,并将提取到的所述用户行为数据中的字段,作为实时增量数据,其中,所述预设指标为所述预设分析任务中的任务分析要求信息;

整合所述实时增量数据和预设的历史全量数据中的共同字段,将整合得到的所述共同字段,作为实时全量数据,并将所述实时全量数据存储到预设数据库中。

2.根据权利要求1所述的方法,其特征在于,在所述接收服务器后端发送的实时消息,并从所述实时消息中提取用户行为数据之前,所述方法还包括:

若接收到所述预设分析任务,则从数据仓库中同步历史数据,得到待处理的用户历史数据;

获取所述预设分析任务中的所述预设指标,从所述用户历史数据中,提取与所述预设指标中的字段具有相关性的字段,并将提取到的所述用户历史数据中的字段,作为历史全量数据。

3.根据权利要求2所述的方法,其特征在于,所述从所述用户历史数据中,提取与所述预设指标中的字段具有相关性的字段包括:

通过Spark计算引擎创建字段提取任务,并按照所述字段提取任务从所述用户历史数据中,提取与所述预设指标中的字段具有相关性的字段。

4.根据权利要求1所述的方法,其特征在于,所述接收服务器后端发送的实时消息,并从所述实时消息中获取用户行为数据包括:

实时监听所述服务器后端发送的实时消息;

根据预设的数据封装格式从所述实时消息中提取用户实时动作数据;

筛选与所述预设分析任务具有相关性的用户实时动作数据,并将筛选到的用户实时动作数据,作为用户行为数据。

5.根据权利要求4所述的方法,其特征在于,所述根据预设的数据封装格式从所述实时消息中提取用户实时动作数据包括:

根据Kafka数据封装格式从所述实时消息提取用户实时动作数据。

6.一种实时数据标签获取装置,其特征在于,所述装置包括:

实时数据接收模块,用于接收服务器后端发送的实时消息,并从所述实时消息中获取用户行为数据;

实时增量数据提取模块,用于根据预设分析任务中的预设指标对所述用户行为数据进行指标统计处理,从所述用户行为数据中,提取与所述预设指标中的字段具有相关性的字段,并将提取到的所述用户行为数据中的字段,作为实时增量数据,其中,所述预设指标为所述预设分析任务中的任务分析要求信息;

数据整合模块,用于整合所述实时增量数据和预设的历史全量数据中的共同字段,将整合得到的所述共同字段,作为实时全量数据,并将所述实时全量数据存储到预设数据库中。

7.根据权利要求6所述的装置,其特征在于,所述装置还包括:

历史数据同步模块,用于若接收到所述预设分析任务,则从数据仓库中同步历史数据,得到待处理的用户历史数据;

历史全量数据提取模块,用于获取所述预设分析任务中的所述预设指标,从所述用户历史数据中,提取与所述预设指标中的字段具有相关性的字段,并将提取到的所述用户历史数据中的字段,作为历史全量数据。

8.根据权利要求6所述的装置,其特征在于,所述实时数据接收模块包括:

数据监听子模块,用于实时监听所述服务器后端发送的实时消息;

数据封装子模块,用于根据预设的数据封装格式从所述实时消息中提取用户实时动作数据;

数据筛选子模块,用于筛选与所述预设分析任务具有相关性的用户实时动作数据,并将筛选到的用户实时动作数据,作为用户行为数据。

9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述方法的步骤。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5中任一项所述的方法的步骤。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910923962.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top