[发明专利]深度学习算法的测试方法、装置、电子装置和存储介质在审
| 申请号: | 202110850333.3 | 申请日: | 2021-07-27 |
| 公开(公告)号: | CN113672500A | 公开(公告)日: | 2021-11-19 |
| 发明(设计)人: | 何为;陈艳支;姚国勤;唐贝贝;吴立 | 申请(专利权)人: | 浙江大华技术股份有限公司 |
| 主分类号: | G06F11/36 | 分类号: | G06F11/36 |
| 代理公司: | 杭州华进联浙知识产权代理有限公司 33250 | 代理人: | 韩潇 |
| 地址: | 310016 浙江*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 深度 学习 算法 测试 方法 装置 电子 存储 介质 | ||
本申请涉及一种深度学习算法的测试方法、装置、电子装置和存储介质。其中,该深度学习算法的测试方法包括:获取待测的深度学习算法的测试集,其中,测试集包括多个测试数据,每个测试数据包括测试样本和测试标签;根据各测试标签确定各测试样本对应的标准结果;将各测试样本的测试任务并行下发到部署有待测的深度学习算法的数据计算集群,并获取数据计算集群返回的各测试样本的测试任务的执行结果,其中,执行结果包括待测的深度学习算法对应的测试样本的预测结果;根据各测试样本的标准结果和预测结果,获取待测的深度学习算法的测试结果。通过本申请,解决了相关技术中在深度学习算法的测试过程存在资源利用率低的问题,提高了资源利用率。
技术领域
本申请涉及深度学习算法领域,特别是涉及深度学习算法的测试方法、装置、电子装置和存储介质。
背景技术
深度学习算法在工业界受到了广泛关注和应用,目前在算法效果的测试方法中,存在着一定程度的手工依赖性以及测试过程缺乏系统管理等问题,对算法结构和参数进行优化过程中,无法避免算法在数据集上进行大量训练和测试,这些准备数据集、统计测试结果的工作,占据了大量时间,严重影响了算法人员的工作效率。
在相关技术中,通过设置一定数量的测试任务队列,为每个测试任务队列指定可入列测试任务的优先级范围;根据优先级所处范围将测试任务添加到相应的测试任务队列中的方式,保证了测试任务调度的公平性和有序性,并提高了测试任务队列组织的效率,可支持测试任务的串行调度和并行调度。然而,在研究过程中发现,上述方式是基于测试任务运行时间来实现优先级调度,没有考虑每个测试任务是否可以进一步细粒度划分,在数据量较大时,数据的读写会占用较多时间,造成GPU服务器、嵌入式设备等稀缺资源长时间处于空闲。
针对相关技术中深度学习算法的测试过程存在资源利用率低的问题,目前还没有提出有效的解决方案。
发明内容
在本实施例中提供了一种深度学习算法的测试方法、装置、电子装置和存储介质,以解决相关技术中深度学习算法的测试过程存在资源利用率低的问题。
第一个方面,在本实施例中提供了一种深度学习算法的测试方法,包括:
获取待测的深度学习算法的测试集,其中,所述测试集包括多个测试数据,每个测试数据包括测试样本和测试标签;
根据各所述测试标签确定各测试样本对应的标准结果;
将各测试样本的测试任务并行下发到部署有所述待测的深度学习算法的数据计算集群,并获取所述数据计算集群返回的各测试样本的测试任务的执行结果,其中,所述执行结果包括所述待测的深度学习算法对应的测试样本的预测结果;
根据各所述测试样本的所述标准结果和所述预测结果,获取所述待测的深度学习算法的测试结果。
在其中的一些实施例中,在根据各所述测试标签确定各测试样本对应的标准结果之后,所述方法还包括:
将各所述测试样本的所述标准结果的数据格式并行转换成与所述测试结果相同的数据格式。
在其中的一些实施例中,将各测试样本的测试任务并行下发到部署有所述待测的深度学习算法的数据计算集群,并获取所述数据计算集群返回的各测试样本的测试任务的执行结果包括:
通过所述计算集群将各所述测试样本的测试任务并行下发到各所述测试样本所对应的worker节点,并获取所述执行结果。
在其中的一些实施例中,通过所述计算集群将各所述测试样本的测试任务并行下发到各所述测试样本所对应的worker节点,并获取所述执行结果包括:
通过所述计算集群获取正处于空闲状态的work节点;
通过所述计算集群基于EDF调度方式将各所述测试样本的测试任务并行下发到与各所述测试样本一一对应的正处于空闲状态下的所述worker节点,并获取所述执行结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大华技术股份有限公司,未经浙江大华技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110850333.3/2.html,转载请声明来源钻瓜专利网。





