[发明专利]异步处理消息的方法、装置、可读介质及电子设备有效
申请号: | 201910880883.2 | 申请日: | 2019-09-18 |
公开(公告)号: | CN110609841B | 公开(公告)日: | 2020-09-15 |
发明(设计)人: | 李耕勇 | 申请(专利权)人: | 镁佳(北京)科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/245 |
代理公司: | 北京臻之知识产权代理有限公司 11629 | 代理人: | 赵福梅 |
地址: | 100012 北京市朝阳*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异步 处理 消息 方法 装置 可读 介质 电子设备 | ||
本公开涉及一种异步处理消息的方法、装置、可读介质及电子设备。本公开提供的技术方案,采用NoSQL数据库,相对MySQL数据库,NoSQL数据写入和读取速度较快,且避免无partition key带来的无法适用的问题。同时,通过建立单独的目标查询集而非采用建立在NoSQL业务表上的二级索引来对数据读取性能进行协助优化,由于目标查询集只包含NoSQL业务表的主键和插入时间,所以冗余数据有限。且在进行查询时,依次查询目标查询集中插入时间满足预设条件的主键集合,解决了NoSQL数据库查询时的无状态性问题,提高了查询效率。
技术领域
本公开涉及异步处理技术领域,具体地,涉及一种异步处理消息的方法、装置、可读介质及电子设备。
背景技术
在高并发环境下,可以通过异步处理消息,缓解系统的压力。相关技术中,一般采用基于分区键(partition key)的MySQL数据库分库分表方案和基于二级索引的NoSQL数据库数据冗余方案来实现异步处理。其中,MySQL数据库为关系型数据库,NoSQL数据库为非关系型数据库。
其中,MySQL数据库分库分表方案的缺点主要在于:MySQL数据库性能太差,数据写入和读取速度较慢,即使通过设置日志刷盘优化,提高也有限,同时需要更多的服务器节点来处理,比较浪费资源。另一方面所有的查询都要基于partition key,用来确认数据存储所在的库和表,则对于查询条件不包括partition key的情况,就不知道数据所在的库和表,因而无法适用。
而NoSQL数据库数据冗余方案采用NoSQL数据库,NoSQL数据库相对于MySQL数据库数据写入和读取速度较快。其缺点在于,引入二级索引,而二级索引十分拖累NoSQL数据库的读取性能。NoSQL数据库的查询具有无状态性,查询功能颇弱,为了方便查询需要做一些冗余数据存储设计。
发明内容
本公开的目的是提供一种基于NoSQL数据库的异步处理消息的方法、装置、可读介质及电子设备,以解决上述问题。
为了实现上述目的,本公开实施例提供一种异步处理消息的方法,所述方法包括:
获取目标查询集中插入时间满足预设条件的主键集合,其中,所述目标查询集中存储有消息的主键和插入时间;
根据所述主键集合内每一主键查询NoSQL业务表,以获得目标消息,其中,所述NoSQL业务表中存储有消息的主键、消息体、处理状态和处理次数,且,所述目标消息为所述主键集合内每一主键所对应的消息中,处理次数未达预设次数且处理状态为失败的消息;
若获得了所述目标消息,则将所述目标消息的主键存储至所述目标查询集,并将存储时间作为所述目标消息的插入时间存储至所述目标查询集,及将所述目标消息提交到任务线程池以重新进行处理。
可选地,所述目标查询集为NoSQL索引表,获取目标查询集中插入时间满足预设条件的主键集合包括:
获取目标数据库的时间偏移量,其中,所述目标数据库为redis数据库或mongodb数据库;
获取所述NoSQL索引表中插入时间在预设时间范围内且查询量在预设数目内的主键集合,所述预设时间范围的起始时间为所述目标数据库的时间偏移量、终止时间为当前时间减去处理超时时间;
将所述目标数据库的时间偏移量更新为所述主键集合中最新的插入时间。
可选地,所述获取目标查询集中插入时间满足预设条件的主键集合的步骤之前,所述方法还包括:竞争全局性的锁;
所述获取目标查询集中插入时间满足预设条件的主键集合的步骤包括:获得所述锁后,获取目标查询集中插入时间满足预设条件的主键集合;
在所述获取目标查询集中插入时间满足预设条件的主键集合的步骤之后,所述方法还包括:释放所述锁。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于镁佳(北京)科技有限公司,未经镁佳(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910880883.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用户信息筛选方法、装置及设备
- 下一篇:一种报文组成方法及系统