[发明专利]设备处理器选择方法、系统、终端设备及存储介质

说明书

本发明提供了一种设备处理器选择方法、系统、终端设备及存储介质，该方法包括：根据待部署神经网络的计算量信息确定待部署神经网络的计算量变量值；获取目标设备的设备信息，根据所述设备信息确定目标设备的设备变量值；根据计算量变量值和所述设备变量值，确定待部署神经网络与目标设备之间的部署变量值，根据部署变量值对目标设备中的处理器进行选择。本发明基于待部署神经网络的计算量的复杂程度和目标设备的设备性能，不同处理器之间处理待部署神经网络的性能差距，基于不同处理器之间的性能差距，能自动对目标设备上的处理器进行选择，无需采用人工测试的方式进行处理器的选择，提高了设备处理器选择的准确性和效率性。

技术领域

本发明属于电子通信领域，尤其涉及一种设备处理器选择方法、系统、终端设备及存储介质。

背景技术

随着时代的发展和科技的进步，处理器的功能也越来越强大，在终端设备上可以通过部署多个处理器，以达到提供处理器性能的效果，例如，在移动端手机上就部署有中央处理器(CPU)和图形处理器(GPU)，CPU和GPU的分工不相同，CPU擅长逻辑控制，GPU擅长并行运算，现在很多深度学习的推理都放到GPU上进行运算。但是由于神经网络中计算量等因素的影响，使得在GPU上进行神经网络的推理并不一定是比CPU快，因此，针对神经网络的推理过程，设备处理器选择的问题越来越受人们所重视。

现在设备处理器的选择，均是通过人工测试的方式进行设备处理器选择，即，通过人工测试神经网络在同一设备的不同处理器上的运行时间，基于测试到的运行时间对设备上的处理器进行选择，但由于采用人工测试的方式进行设备处理器选择，导致设备处理器选择的耗时较长，降低了设备处理器选择的效率。

发明内容

本发明实施例的目的在于提供一种设备处理器选择方法、系统、终端设备及存储介质，旨在解决现有的设备处理器选择过程中，由于采用人工测试的方式进行设备处理器的选择，所导致的设备处理器选择效率低下的问题。

本发明实施例是这样实现的，一种设备处理器选择方法，所述方法包括：

获取待部署神经网络的计算量信息，并根据所述计算量信息确定所述待部署神经网络的计算量变量值，所述计算量信息包括所述待部署神经网络的总计算量和卷积计算量，所述计算量变量值用于表征所述待部署神经网络计算量的复杂程度；

获取目标设备的设备信息，并根据所述设备信息确定所述目标设备的设备变量值，所述设备信息包括设备运行速度和内存值，所述设备变量值用于表征所述目标设备的设备性能；

根据所述计算量变量值和所述设备变量值，确定所述待部署神经网络与所述目标设备之间的部署变量值，并根据所述部署变量值对所述目标设备中的处理器进行选择，所述部署变量值用于表征所述待部署神经网络部署在所述目标设备上时，不同处理器之间处理所述待部署神经网络的性能差距。

更进一步的，所述根据所述计算量信息确定所述待部署神经网络的计算量变量值，包括：

确定样本神经网络中的最大总计算量和最小总计算量，并计算所述最大总计算量与所述最小总计算量之间的差值，得到计算量差值；

计算所述待部署神经网络的总计算量与所述计算量差值之间的商值，得到第一计算量变量值；

计算所述待部署神经网络中，3x3卷积的卷积计算量与总计算量之间的商值，得到第二计算量变量值；

计算所述待部署神经网络中，1x1卷积的卷积计算量与总计算量之间的商值，得到第三计算量变量值；

所述计算量变量值包括所述第一计算量变量值、所述第二计算量变量值和所述第三计算量变量值。

更进一步的，所述根据所述设备信息确定所述目标设备的设备变量值，包括：

确定样本设备中的最大内存值和最小内存值，并计算所述最大内存值与所述最小内存值之间的差值，得到内存差值；