[发明专利]一种数据处理方法及装置有效
申请号: | 201910276851.1 | 申请日: | 2019-04-08 |
公开(公告)号: | CN110070117B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 陈世敏;牛颂杰;周东炎;于东海;孙仕杰 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F18/2413 | 分类号: | G06F18/2413;G06N3/0499;G06N3/08;G06F16/901 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,包括:
获取训练样本集合,所述训练样本集合中包括多个图计算任务训练样本,每个图计算任务训练样本分别对应不同的性能指标特征;
提取所述图计算任务训练样本对应的性能指标特征,所述性能指标特征包括如下至少一种:图数据特征、图处理平台特征、图算法特征以及机器硬件特征;若所述性能指标特征为所述机器硬件特征,则所述性能指标特征包括所述图计算任务训练样本对应的机器硬件的核心处理性能、内存容量、网络带宽和设备集群数量;
基于所述图计算任务训练样本的实际运行时间与所对应的性能指标特征之间的映射关系,生成目标性能预测模型,所述目标性能预测模型用于根据输入的图计算任务测试样本对应的性能指标特征输出预测运行时间。
2.根据权利要求1所述的方法,其特征在于,所述提取所述图计算任务训练样本对应的性能指标特征,包括:
若所述性能指标特征为所述图数据特征,则提取所述图计算任务训练样本对应的图数据的顶点数和边数;
基于指数长度或者相同长度将所述图计算任务训练样本的度数区间划分为多个子区间,根据所述图计算任务训练样本对应的图数据中每个顶点的度数所属的子区间的度数范围,确定每个子区间包含的顶点个数,基于所述每个子区间包含的顶点个数确定所述图计算任务训练样本的度数分布;
将所述图计算任务训练样本对应的图数据的顶点数、边数和度数分布确定为所述图计算任务训练样本的性能指标特征。
3.根据权利要求1所述的方法,其特征在于,所述提取所述图计算任务训练样本对应的性能指标特征,包括:
若所述性能指标特征为所述图处理平台特征,则将所述图计算任务训练样本对应的图处理平台的图划分规则、内存池容量、通信缓冲区容量、消息分发策略、超步数和消息数确定为所述图计算任务训练样本对应的性能指标特征。
4.根据权利要求1所述的方法,其特征在于,所述提取所述图计算任务训练样本对应的性能指标特征,包括:
若所述性能指标特征为所述图算法特征,则将所述图计算任务训练样本对应的图算法的计算量、超步数、单条消息数据量和消息总数确定为所述图计算任务训练样本对应的性能指标特征。
5.根据权利要求1所述的方法,其特征在于,所述基于所述图计算任务训练样本的实际运行时间与所对应的性能指标特征之间的映射关系,生成目标性能预测模型,包括:
将所述图计算任务训练样本对应的性能指标特征进行归一化,得到待训练特征;
基于所述图计算任务训练样本的实际运行时间与所对应的待训练特征之间的映射关系,生成目标训练样本集合;
将所述目标训练样本集合输入到初始性能预测模型的输入层,并在所述初始性能预测模型的输出层得到所述图计算任务训练样本的训练预测时间;
基于所述图计算任务训练样本的实际运行时间与训练预测时间,修正所述初始性能预测模型的模型参数;
基于所述初始性能预测模型、修正后的模型参数以及所述图计算任务训练样本的实际运行时间与所对应的待训练特征之间的映射关系,生成所述目标性能预测模型。
6.根据权利要求5所述的方法,其特征在于,还包括:
获取测试样本集合;所述测试样本集合中包括多个图计算任务测试样本;
提取所述图计算任务测试样本对应的性能指标特征;所述性能指标特征包括图数据特征、图处理平台特征、图算法特征以及机器硬件特征;
将所述图计算任务测试样本的性能指标特征进行归一化,得到待测试特征;
基于所述目标性能预测模型、所述图计算任务测试样本对应的待测试特征,确定所述图计算任务测试样本的预测运行时间。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910276851.1/1.html,转载请声明来源钻瓜专利网。