[发明专利]PostgreSQL高并发流式大数据多维度准实时统计的方法有效
| 申请号: | 201410207285.6 | 申请日: | 2014-05-15 |
| 公开(公告)号: | CN104166666B | 公开(公告)日: | 2017-03-08 |
| 发明(设计)人: | 周正中 | 申请(专利权)人: | 杭州斯凯网络科技有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30;G06Q10/06 |
| 代理公司: | 杭州杭诚专利事务所有限公司33109 | 代理人: | 尉伟敏 |
| 地址: | 310013 浙江省杭*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | postgresql 并发 流式大 数据 多维 实时 统计 方法 | ||
1.一种PostgreSQL高并发流式大数据多维度准实时统计的方法,适用于OLTP系统,其特征在于:
步骤一:创建流水表增量状态表、统计函数、函数增量状态表和分析函数,对流水表增量状态表函数增量状态表进行初始化;
步骤二:计算分析函数取数的次数,以整数方式记录,作为统计次数数据,步骤三:分析函数工作,进入子步骤,
子步骤一:计算机判断取数据的参数值是否正确,如果正确将数据录入流水信息表,如果不正确则结束本方法并报错,
子步骤二:从函数增量状态表中取出统计函数,存储在计算机内存中,遍历统计函数的函数名和各变量,
子步骤三:把未执行事务号存入内存中,
子步骤四:在流水表增量状态表中取出历史截止时间值,
子步骤五:将历史未执行事务号与未执行事务号做集合加运算,
子步骤六:从流水表中根据统计次数数据取出大于等于历史截止时间值的事务号结果值,所述事务号结果值包括历史截止时间值和第一部分流水数据,历史截止时间值根据事务号结果值进行更新,
子步骤七:计算机从流水表中先对未执行事务号和历史未执行事务号进行集合差运算获得差异值,再对未执行事务号和历史未执行事务号进行取交集运算获得交集值,将交集值与差异值做集合与运算得出第二部分流水数据,
子步骤八:将第一部分流水数据和第二部分流水数据合并得出流水数据,将流水数据更新至流水表增量状态表,将历史截止时间值也更新至流水表增量状态表中,遍历统计函数中的变量后,更新函数增量状态表,
子步骤九:流水数据由统计函数调用,执行步骤四,
步骤四:计算机根据统计函数得出的流水统计数据输出含有多维度准实时统计数据的统计维度表;
所述流水表为OLTP系统固有组成。
2.根据权利要求1所述的PostgreSQL高并发流式大数据多维度准实时统计的方法,其特征在于:当取增量数据消耗硬件成本更高时,使用所有维度统一增量数据集方式统计,在数据统计耗硬件成本更高时,使用维度独立增量数据集方式统计。
3.根据权利要求2所述的PostgreSQL高并发流式大数据多维度准实时统计的方法,其特征在于:使用所有维度统一增量数据集方式统计,所有统计维度表对应同一份流水表增量状态表和同一份函数增量状态表。
4.根据权利要求2所述的PostgreSQL高并发流式大数据多维度准实时统计的方法,其特征在于:使用所有维度统一增量数据集方式统计,每份统计维度表均对应有一份流水表增量状态表和同一份函数增量状态表。
5.根据权利要求2所述的PostgreSQL高并发流式大数据多维度准实时统计的方法,其特征在于:在所述子步骤二中,在获取统计维度信息前,系统对均获取一个用于确保统计逻辑数据的一致性的adv锁,在所述子步骤九中增加释放adv锁的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州斯凯网络科技有限公司,未经杭州斯凯网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410207285.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:分析系统以及保健事业支援方法
- 下一篇:有轮行李箱
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





