[发明专利]数据分布缓存方法及系统有效
申请号: | 201210118227.7 | 申请日: | 2012-04-20 |
公开(公告)号: | CN102638584A | 公开(公告)日: | 2012-08-15 |
发明(设计)人: | 纪开虎 | 申请(专利权)人: | 青岛海信传媒网络技术有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹 |
地址: | 266071 山东省青*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 分布 缓存 方法 系统 | ||
1.一种数据分布缓存方法,其特征在于,所述方法包括步骤:
S1,在生成业务数据或业务数据发生变化时,根据预先设定的配置策略对每一个数据增加节点ID信息,将数据存储在中心数据库中;
S2,进行数据分发,将中心数据库中的业务数据取出,并根据每个数据所携带的节点ID信息,将数据分发到对应的节点服务器;
S3,从节点服务器中取出分发到该节点的数据,同步到该节点的缓存中;
S4,将每个用户群接入到一个特定的节点,用户通过该节点缓存访问业务数据。
2.根据权利要求1所述的方法,其特征在于,所述中心数据库中统一存储全部业务数据。
3.根据权利要求1所述的方法,其特征在于,步骤S1中,所述配置策略包括:
在进行业务相关表设计时,增加业务无关的拆分字段,作为数据分布在各个节点的依据;
相同业务组的表设计填充相同的字段值;
生成业务数据时,根据业务的属性配置填充对应的拆分字段的数据值;
各个分布缓存节点在同步本节点的数据时,把相同属性的拆分字段值同步到本节点的缓存中。
4.根据权利要求1所述的方法,其特征在于,步骤S2进一步包括步骤:
在中心数据库中的数据发生变动时,触发中心数据库中的触发器,触发器检查数据的变化类型,从配置表中查询变动的数据需要分发的节点ID,如果需要分发数据到某节点,则生成该对应节点的逻辑日志;
将逻辑日志记录在数据同步表中;
定期检查数据同步表中的数据,存在需要同步的逻辑日志时,从同步表中取出逻辑日志,把同一节点的逻辑日志批量组合起来,放在分发线程的工作队列中;
将数据同步表的内容解析为相应的逻辑日志;
从批量的日志信息中,解析出单条的逻辑日志,取出逻辑日志的内容,将修改更新到缓存中。
5.根据权利要求1所述的方法,其特征在于,步骤S3进一步包括步骤:
从配置文件中读取节点信息,通过节点信息查询同步条件表;
查询同步数据的条件并组装同步查询数据的SQL语句;
通过组装的SQL语句查询同步到本节点的数据,把查询的数据写入缓存中。
6.根据权利要求1所述的方法,其特征在于,步骤S4进一步包括步骤:
为每个分布节点指定对应的用户群体;
在用户接入系统时,配置用户访问的服务器为该用户所在的分布节点;
分布节点同步该用户的数据,为用户提供针对该用户的服务。
7.一种数据分布缓存系统,其特征在于,所述系统包括中心数据库和至少一个分布节点;其中,
所述中心数据库由多个数据库单元组成,用于统一存储全部业务数据并为每个业务数据配置节点ID信息;
每个所述分布节点包括分发集群和至少一个同步服务器,所述分发集群由分发服务器组成,用于将中心数据库中的业务数据取出,并根据每个数据所携带的节点ID信息,将数据分发到对应的同步服务器;所述同步服务器用于从分发服务器中取得分发到本地的数据,将其同步到本地的缓存中供用户访问。
8.一种数据分布缓存系统,其特征在于,所述系统包括:
数据存储模块,用于在生成业务数据或业务数据发生变化时,根据预先设定的配置策略对每一个数据增加节点ID信息,将数据存储在中心数据库中;
数据分发模块,用于进行数据分发,将中心数据库中的业务数据取出,并根据每个数据所携带的节点ID信息,将数据分发到对应的节点服务器;
数据同步模块,用于从节点服务器中取出分发到该节点的数据,同步到该节点的缓存中;
访问控制模块,用于将每个用户群接入到一个特定的节点,用户通过该节点缓存访问业务数据。
9.根据权利要求8所述的系统,其特征在于,所述数据存储模块中包括策略配置模块,所述策略配置模块进一步包括:
字段设计模块,用于在进行业务相关表设计时,增加业务无关的拆分字段,作为数据分布在各个节点的依据;
表拆分模块,用于将相同业务组的表设计填充相同的字段值;
业务拆分模块,用于在生成业务数据时,根据业务的属性配置填充对应的拆分字段的数据值;
同步策略模块,用于在各个分布缓存节点在同步本节点的数据时,把相同属性的拆分字段值同步到本节点的缓存中。
10.根据权利要求8所述的系统,其特征在于,所述数据分发模块进一步包括:
日志生成模块,用于在中心数据库中的数据发生变动时,触发中心数据库中的触发器,触发器检查数据的变化类型,从配置表中查询变动的数据需要分发的节点ID,如果需要分发数据到某节点,则生成该对应节点的逻辑日志;
记录模块,用于将逻辑日志记录在数据同步表中;
轮询模块,用于定期检查数据同步表中的数据,存在需要同步的逻辑日志时,从同步表中取出逻辑日志,把同一节点的逻辑日志批量组合起来,放在分发线程的工作队列中;
表解析模块,用于将数据同步表的内容解析为相应的逻辑日志;
日志解析模块,用于从批量的日志信息中,解析出单条的逻辑日志,取出逻辑日志的内容,将修改更新到缓存中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青岛海信传媒网络技术有限公司,未经青岛海信传媒网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210118227.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种感温变色杯
- 下一篇:制备荔枝或龙眼果肉粉的方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置