[发明专利]一种网络行为特征的差量计算方法和系统有效
申请号: | 201610910820.3 | 申请日: | 2016-10-19 |
公开(公告)号: | CN106598823B | 公开(公告)日: | 2019-01-25 |
发明(设计)人: | 方强;王桥石;陈昌龙;张新波 | 申请(专利权)人: | 同盾控股有限公司 |
主分类号: | G06F11/34 | 分类号: | G06F11/34;G06F16/2458;H04L29/08 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 苏培华 |
地址: | 310000 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 行为 特征 计算方法 系统 | ||
本发明提供了一种网络行为特征的差量计算方法,涉及网络数据处理技术领域。该方法包括:持续获取用户网络行为的特征信息;将距当前时刻最近的一个时间周期内的特征信息存入第一数据库;定时一个时间周期拉取特征信息并按不同维度聚合计算,将结果与上一个时间周期节点的统计值进行累加,得到当前时间周期节点的统计值并存入第二数据库;接收查询请求后,根据时间窗口读取第二数据库中的两个时间周期节点的统计值并相减得到差量,将差量与读取的第一数据库的特征信息进行合并,得到所要查询的特征指标。采用此方法不仅可以灵活、快速、准确地统计各种维度的指标,而且几乎可以满足高量并发场景的在线实时计算的要求。
技术领域
本发明涉及网络数据处理技术领域,特别是涉及一种网络行为特征的差量计算方法和一种网络行为特征的差量计算系统。
背景技术
风险控制系统中,为了评估风险,往往需要对用户行为特征进行统计,计算用户行为的特征指标并以此来评估风险。在进行用户行为特征统计时,通常需要计算用户网络行为某个维度在过去某个特定的时段出现的次数、关联关系、变化趋势等,比如过去5分钟某个IP(Internet Protocol,网络之间互连的协议)登录次数,过去3天某个设备ID(DeviceID,设备唯一标识)关联的用户账号数等,以此来作为网络异常行为分析的重要依据。
在先的对用户网络行为的特征指标的计算方案大致包括下述三种:
第一种,把数据存入数据库,并在需要统计的字段上加上索引,每次计算时根据查询条件在数据库中获取用户行为特征信息,统计用户行为特征指标。
第二种,把数据按不同维度聚合后,存储在NoSQL(Not only Structured QueryLanguage,非关系型数据库)中,通过对关键值Key值的精巧设计,在每次计算时根据查询条件快速定位到对应的特征信息,并进行读取,然后统计用户行为的特征指标。
第三种,把数据按照分钟、小时、天时间片进行聚合存入数据库,在每次计算时根据查询条件在数据库中获取用户行为特征信息,统计用户行为特征指标。
在发明人应用上述方案的过程中发现,第一种方案存在两个问题,一个是如果每个字段都要加索引,对写入性能影响较大,二是如果事件中的字段是由客户传入的,是有非常多的可能,无法在数据库建表时进行穷举,建表后新增字段代价也非常高,所以计算用户行为特征时灵活度差。即使字段是确定的,然后每次计算时根据查询条件在数据库中进行统计,在数据量比较大的情况下,性能会到秒级,无法满足实时性的要求。第二种方案存在的问题是,当遇到欺诈、作弊等异常网络行为时,由于该网络行为特征的表现之一就是高并发,数据量大,这会导致在读取数据时因为数据量过大而经常超时,如果限制数据的条数就会导致计算不准。第三种方法也存在问题,对于回溯窗口特别长或数据量特别大的时候也会比较耗时,满足不了在线实时性的要求。
发明内容
针对上述现有技术的缺陷,本发明要解决的技术问题是提供一种对网络行为特征计算的方法,用以灵活、快速、准确地统计各种维度的特征指标,满足高量并发场景的在线实时计算的要求。
为了解决上述问题,本发明公开了一种网络行为特征的差量计算方法,所述方法包括:
持续获取用户网络行为的特征信息;
将距离当前时刻最近的一个时间周期内的所述的特征信息存入第一数据库;
按一个时间周期定期拉取所述的特征信息,并根据所述特征信息计算一个时间周期内的各个维度的特征指标;
针对不同维度,将当前时间周期内计算获得的特征指标与上一个时间周期节点的特征指标统计值进行累加,得到当前时间周期节点的各个维度的特征指标统计值,并将所述当前时间周期节点的各个维度的特征指标统计值存入第二数据库;
接收查询请求,所述查询请求包括时间窗口和至少一个维度的特征指标;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同盾控股有限公司,未经同盾控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610910820.3/2.html,转载请声明来源钻瓜专利网。