[发明专利]一种数据导出的方法及设备在审
申请号: | 201910973879.0 | 申请日: | 2019-10-14 |
公开(公告)号: | CN110851249A | 公开(公告)日: | 2020-02-28 |
发明(设计)人: | 丁永 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 冷仔 |
地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 导出 方法 设备 | ||
1.一种数据导出的方法,其特征在于,包括:
若满足预设的数据导出触发条件,则获取所述数据导出触发任务关联的所有数据导出任务;
统计所述数据导出任务的任务个数,以及检测本地的线程池内的线程个数;
基于所述任务个数以及所述线程个数,将所述线程池内的空闲线程划分为查询线程以及导出线程;
调用所述查询线程从数据库中提取各个所述数据导出任务关联的目标数据,并通过所述导出线程将所述目标数据写入预设的任务数据文档。
2.根据权利要求1所述的方法,其特征在于,所述调用所述查询线程从数据库中提取各个所述数据导出任务关联的目标数据,并通过所述导出线程将所述目标数据写入预设的任务数据文档,包括:
采集各个所述导出线程的瞬时最大导出量,并根据所述瞬时最大导出量以及所述导出线程的导出线程个数,计算额定导出数据量;
解析各个所述数据导出任务的任务内容,并基于所述任务内容确定期望数据量;
根据所述额定导出数据量以及各个所述数据导出任务的所述期望数据量,将所有所述数据导出任务划分为至少一个导出任务组;所述导出任务组内所有所述数据导出任务的期望数据量之和小于或等于所述额定导出数据量;
通过所述查询线程以及所述导出线程分别对各个所述导出任务组执行数据导出操作。
3.根据权利要求2所述的方法,其特征在于,所述通过所述查询线程以及所述导出线程分别对各个所述导出任务组执行数据导出操作,包括:
调用所述查询线程分别从所述数据库中提取各个所述导出任务组内所有数据导出任务的所述目标数据;
若检测到查询任一所述导出任务组内所有所述数据导出任务的所述目标数据,则输出数据导出指令;所述数据导出指令携带有所述导出任务组的组编号;
若接收到所述数据导出指令,则控制所述导出线程对所述组编号对应的所述数据导出任务的目标数据执行数据导出操作。
4.根据权利要求2所述的方法,其特征在于,所述解析各个所述数据导出任务的任务内容,并基于所述任务内容确定期望数据量,包括:
通过预设的语义解析算法,提取所述任务内容中的任务关键词;
查询各个所述任务关键词在所述数据库中的词频参量,并将所述词频参量导入预设的期望数据转换模型,计算所述词频参量的期望数据参量;所述期望数据转换模型具体为:
其中,ξData为所述期望数据参量;WF为所述词频参量;BF为基准词频;BaseData为基准数据量;
根据所述任务内容的所有所述期望数据参量,确定所述期望数据量。
5.根据权利要求1-4任一项所述的方法,其特征在于,在所述若满足预设的数据导出触发条件,则获取所述数据导出触发任务关联的所有数据导出任务之前,还包括:
接收用户终端发送的数据导出请求;所述数据导出请求包括数据原始文本;
提取所述数据原始文本中的查询关键词;
识别各个所述查询关键词在所述数据库的数据表关联的数据类型,建立所述查询关键词与所述数据类型的关联关系;
根据所述关联关系输出所述数据导出请求的数据导出任务。
6.一种数据导出的设备,其特征在于,包括:
数据导出触发单元,用于若满足预设的数据导出触发条件,则获取所述数据导出触发任务关联的所有数据导出任务;
线程个数统计单元,用于统计所述数据导出任务的任务个数,以及检测本地的线程池内的线程个数;
线程划分单元,用于基于所述任务个数以及所述线程个数,将所述线程池内的空闲线程划分为查询线程以及导出线程;
数据导出执行单元,用于调用所述查询线程从数据库中提取各个所述数据导出任务关联的目标数据,并通过所述导出线程将所述目标数据写入预设的任务数据文档。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910973879.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置