[发明专利]数据处理方法、装置、电子设备及存储介质有效
| 申请号: | 201910457682.1 | 申请日: | 2019-05-29 |
| 公开(公告)号: | CN110287000B | 公开(公告)日: | 2021-08-17 |
| 发明(设计)人: | 张旭华 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
| 主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F9/50 |
| 代理公司: | 北京成创同维知识产权代理有限公司 11449 | 代理人: | 蔡纯;刘静 |
| 地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
收集来自多个服务器的状态数据;
获取当前待分配的服务数据;
根据所述状态数据和所述当前待分配的服务数据的数据指标为所述服务器构建信息矩阵;
为所述服务器的所述信息矩阵构建优先级矩阵;
根据所述信息矩阵和对应的所述优先级矩阵,计算得到所述服务器上运行的多个第一服务处理所述当前待分配的服务数据的处理能力值;
根据计算结果,将所述当前待分配的服务数据切分为多个子服务数据;以及
将所述多个子服务数据分别分配给所述多个服务器,所述多个第一服务接收并处理所述多个子服务数据。
2.根据权利要求1所述的数据处理方法,其特征在于,所述状态数据是所述多个服务器处理在先的服务数据时产生的多维数据。
3.根据权利要求2所述的数据处理方法,其特征在于,所述根据所述信息矩阵和对应的所述优先级矩阵,计算得到所述服务器上运行的多个第一服务处理所述当前待分配的服务数据的处理能力值,包括:
通过蚁群算法优化所述信息矩阵对应的所述优先级矩阵;
对所述信息矩阵和对应的所述优先级矩阵进行矩阵运算,得到每个所述服务器上运行的所述多个第一服务处理所述当前待分配的服务数据的处理能力值。
4.根据权利要求1所述的数据处理方法,其特征在于,所述的数据处理方法,还包括:
当首次获取所述待分配的服务数据时,根据所述待分配的服务数据自身的大小、所述多个服务器的性能和所述多个第一服务处理所述待分配的服务数据时的内存膨胀数据,将所述待分配的服务数据切分为多个子服务数据,使得所述多个第一服务在JAVA虚拟机中的占用内存小于等于预设内存值。
5.根据权利要求1所述的数据处理方法,其特征在于,所述获取当前待分配的服务数据包括:将所述当前待分配的服务数据读取到容器中;则所述数据处理方法还包括:
在将所述当前待分配的服务数据读取到容器中之前,获取所述当前待分配的服务数据的大小;
如果所述当前待分配的服务数据的大小大于所述容器支持的最大使用内存,则由分布式文件系统切分后,再读取所述当前待分配的服务数据到所述容器中;
如果所述当前待分配的服务数据的大小小于或者等于所述容器支持的最大使用内存,且所述当前待分配的服务数据的大小大于所述容器当前的最大内存,则通知容器管理中心扩展所述容器的最大内存,再读取所述当前待分配的服务数据到所述容器中;以及
如果所述当前待分配的服务数据的大小小于或者等于所述容器当前的最大内存,则读取所述当前待分配的服务数据到所述容器中。
6.根据权利要求3所述的数据处理方法,其特征在于,所述多个服务器的所述状态数据记录在服务列表中,所述状态数据包括:CPU使用数据、内存使用数据和网络使用数据,所述服务数据的数据指标,包括:数据类型、数据依赖深度和数据量。
7.根据权利要求5所述的数据处理方法,其特征在于,当在先的待分配的服务数据被所述多个第一服务处理完毕后,获取所述当前待分配的服务数据。
8.一种数据处理装置,其特征在于,包括:
收集单元,被配置为执行收集来自多个服务器的状态数据;
获取单元,被配置为执行获取当前待分配的服务数据;
切分单元,被配置为执行根据所述状态数据和所述当前待分配的服务数据的数据指标为所述服务器构建信息矩阵;为所述服务器的所述信息矩阵构建优先级矩阵;根据所述信息矩阵和对应的所述优先级矩阵,计算得到所述服务器上运行的多个第一服务处理所述当前待分配的服务数据的处理能力值;根据计算结果,将所述当前待分配的服务数据切分为多个子服务数据;以及
分配单元,被配置为执行将所述多个子服务数据分别分配给所述多个服务器,所述多个第一服务接收并处理所述多个子服务数据。
9.根据权利要求8所述的数据处理装置,其特征在于,所述状态数据是所述多个服务器处理在先的服务数据时产生的多维数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910457682.1/1.html,转载请声明来源钻瓜专利网。





