[发明专利]一种神经网络的前向推理方法、装置、设备及存储介质有效
申请号: | 201910188467.6 | 申请日: | 2019-03-13 |
公开(公告)号: | CN109919315B | 公开(公告)日: | 2021-10-01 |
发明(设计)人: | 刘凯;吕亚飞;张致江;李必然;刘远东 | 申请(专利权)人: | 科大讯飞股份有限公司 |
主分类号: | G06N5/04 | 分类号: | G06N5/04 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王云晓;王宝筠 |
地址: | 230088 安徽*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种神经网络的前向推理方法、装置、设备及存储介质,其中,方法包括:将目标神经网络划分为多个子网络,任一子网络包括目标神经网络的至少一个隐层,在推理平台的硬件设备上创建多个子网络分别对应的推理实例和推理引擎,基于多个子网络分别对应的推理实例和推理引擎,对目标神经网络进行前向推理。由于一个推理引擎只负责神经网络的一部分隐层,同一时刻可以有多个数据输入在不同的推理引擎内并行执行,因此,本申请提供的前向推理方法具有较高的推理效率和数据吞吐量,且推理平台的硬件资源得到充分利用。 | ||
搜索关键词: | 一种 神经网络 推理 方法 装置 设备 存储 介质 | ||
【主权项】:
1.一种神经网络的前向推理方法,其特征在于,包括:将目标神经网络划分为多个子网络,其中,任一子网络包括所述目标神经网络的至少一个隐层;在推理平台的硬件设备上创建所述多个子网络分别对应的推理实例和推理引擎;基于所述多个子网络分别对应的推理实例和推理引擎,对所述目标神经网络进行前向推理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科大讯飞股份有限公司,未经科大讯飞股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910188467.6/,转载请声明来源钻瓜专利网。