[发明专利]运算方法、装置及相关产品有效
| 申请号: | 201811639690.X | 申请日: | 2018-12-29 |
| 公开(公告)号: | CN109726800B | 公开(公告)日: | 2019-12-24 |
| 发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 北京中科寒武纪科技有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08 |
| 代理公司: | 11277 北京林达刘知识产权代理事务所(普通合伙) | 代理人: | 刘新宇 |
| 地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 运算 计算指令 指令处理单元 指令缓存单元 存储队列 控制模块 运算指令 队列 人工神经网络 神经网络模型 存储指令 运算效率 指令队列 解析 存储 关联 | ||
1.一种运算方法,其特征在于,包括:
在Caffe模型的配置文件中定义额外输出参数,得到调整后的Caffe配置文件,所述额外输出参数用于表示将Caffe模型的中间结果增加到所述Caffe模型的输出结果中,所述中间结果包括所述Caffe模型中至少一个非输出层的运算结果;
根据调整后的所述Caffe配置文件执行所述Caffe模型,得到包括所述中间结果的所述Caffe模型的输出结果;
其中,所述Caffe模型为融合模型,
所述运算方法适用于异构计算架构,所述异构计算架构包括通用处理器和人工智能处理器;
所述非输出层包括:运行在所述人工智能处理器上的融合子网络中的非输出层;所述融合子网络为:将Caffe模型中全部或分网络层进行算子融合后得到的网络。
2.根据权利要求1所述的方法,其特征在于,还包括:
根据调整后的所述Caffe配置文件得到Caffe离线模型,以使所述Caffe离线模型在执行时,输出包括所述中间结果的所述Caffe模型的输出结果。
3.根据权利要求1所述的方法,其特征在于,所述额外输出参数的值包括输出标识或非输出标识,
所述额外输出参数用于表示将Caffe模型的中间结果增加到所述Caffe模型的输出结果中,包括:
所述额外输出参数的值为输出标识表示将所述Caffe模型的中间结果增加到所述Caffe模型的输出结果中。
4.根据权利要求1至3任一项所述的方法,其特征在于,在所述Caffe模型的输出结果中,所述中间结果中各非输出层的输出结果按照网络层的名称顺序排列。
5.一种运算装置,其特征在于,包括:
参数定义模块,用于在Caffe模型的配置文件中定义额外输出参数,得到调整后的Caffe配置文件,所述额外输出参数用于表示将Caffe模型的中间结果增加到所述Caffe模型的输出结果中,所述中间结果包括所述Caffe模型中至少一个非输出层的运算结果;
模型执行模块,用于根据调整后的所述Caffe配置文件执行Caffe融合模型,得到包括所述中间结果的所述Caffe模型的输出结果,
其中,所述运算装置适用于异构计算架构,所述异构计算架构包括通用处理器和人工智能处理器;
所述非输出层包括:运行在所述人工智能处理器上的融合子网络中的非输出层;所述融合子网络为:将Caffe模型中全部或部分网络层进行算子融合后得到的网络。
6.根据权利要求5所述的装置,其特征在于,还包括:
离线模型获取模块,用于根据调整后的所述Caffe配置文件得到Caffe离线模型,以使所述Caffe离线模型在执行时,输出包括所述中间结果的所述Caffe模型的输出结果。
7.根据权利要求5所述的装置,其特征在于,所述额外输出参数的值包括输出标识或非输出标识;
所述额外输出参数用于表示将Caffe模型的中间结果增加到所述Caffe模型的输出结果中,包括:
所述额外输出参数的值为输出标识表示将所述Caffe模型的中间结果增加到所述Caffe模型的输出结果中。
8.根据权利要求5至7任一项所述的装置,其特征在于,在所述Caffe模型的输出结果中,所述中间结果中各非输出层的输出结果按照网络层的名称顺序排列。
9.一种计算机设备,包括存储器、处理器,所述存储器上存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至4中任一项所述方法的步骤。
10.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中科寒武纪科技有限公司,未经北京中科寒武纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811639690.X/1.html,转载请声明来源钻瓜专利网。





