[发明专利]用于同步数据的方法、装置、电子设备及可读存储介质在审
申请号: | 202010611769.2 | 申请日: | 2020-06-30 |
公开(公告)号: | CN111767296A | 公开(公告)日: | 2020-10-13 |
发明(设计)人: | 李晓东 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/27 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 同步 数据 方法 装置 电子设备 可读 存储 介质 | ||
本申请实施例公开了用于同步数据的方法、装置、电子设备及计算机可读存储介质,涉及多集群协同数据处理、数据容灾技术领域。该方法的一具体实施方式包括:查询消息队列中存储的消息,其中,任意集群发起的写操作指令均会经格式转换后以消息的形式被存入消息队列,写操作指令基于面向切面编程AOP技术被识别;响应于消息中包含待同步消息,从消息队列中拉取该待同步消息,并对该待同步消息进行格式转换,得到待执行的写操作指令;执行该写操作指令,以同步与写操作指令对应的待写入数据。该实施方式不仅降低了开发难度和运维难度,还避免了代码耦合所可能导致的一系列那问题,可更加灵活的适用于多种业务场景。
技术领域
本申请实施例涉及数据处理技术领域,具体涉及多集群协同数据处理、数据容灾技术领域,尤其涉及用于同步数据的方法、装置、电子设备及可读存储介质。
背景技术
为了保证智能客服系统机房级的高可用性(一个机房的出现故障后,另外一个机房可以接替故障机房继续提供服务),需要在机房间进行基础组件的数据同步。ES(Elasticsearch)工具作为全文检索引擎基础组件,需要一个合理的集群数据同步方案,来保证机房间不同的ES集群可以进行高效、稳定、及时的数据同步。
现有技术提供了一种通过侵入业务代码的数据同步方案,即将数据同步与存储的功能代码进行耦合。
发明内容
本申请实施例提出了一种用于同步数据的方法、装置、电子设备及计算机可读存储介质。
第一方面,本申请实施例提出了一种用于同步数据的方法,包括:查询消息队列中存储的消息;其中,任意集群发起的写操作指令均会经格式转换后以所述消息的形式被存入所述消息队列,所述写操作指令基于面向切面编程AOP技术被识别;响应于所述消息中包含待同步消息,从所述消息队列中拉取所述待同步消息,并对所述待同步消息进行格式转换,得到待执行的写操作指令;执行所述写操作指令,以同步与所述写操作指令对应的待写入数据。
第二方面,本申请实施例提出了一种用于同步数据的装置,包括:消息查询单元,被配置成查询消息队列中存储的消息;其中,任意集群发起的写操作指令均会经格式转换后以所述消息的形式被存入所述消息队列,所述写操作指令基于面向切面编程AOP技术被识别;待同步消息拉取及写操作指令获取单元,被配置成响应于所述消息中包含待同步消息,从所述消息队列中拉取所述待同步消息,并对所述待同步消息进行格式转换,得到待执行的写操作指令;写操作指令执行及待写入数据同步单元,被配置成执行所述写操作指令,以同步与所述写操作指令对应的待写入数据。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的用于同步数据的方法。
第四方面,本申请实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的用于同步数据的方法。
本申请实施例提供的用于同步数据的方法、装置、电子设备及计算机可读存储介质,首先,查询消息队列中存储的消息,其中,任意集群发起的写操作指令均会经格式转换后以消息的形式被存入消息队列,写操作指令基于面向切面编程AOP技术被识别;然后,响应于消息中包含待同步消息,从消息队列中拉取该待同步消息,并对该待同步消息进行格式转换,得到待执行的写操作指令;接着,执行该写操作指令,以同步与写操作指令对应的待写入数据。
区别于现有技术提供的需要侵入业务代码的数据同步方案,本申请通过使用面向切面编程的技术,可实现在不侵入原有业务代码、不对原有业务代码进行改动的情况下,准确识别到用于表示数据写操作的指令,进而通过消息队列将该写操作指令传达至每一个需要进行同步的集群。不仅降低了开发难度和运维难度,还避免了代码耦合所可能导致的一系列那问题,可更加灵活的适用于多种业务场景。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010611769.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置