[发明专利]卷积神经网络轻量化方法、装置及电子设备在审
申请号: | 201910042679.3 | 申请日: | 2019-01-17 |
公开(公告)号: | CN109766949A | 公开(公告)日: | 2019-05-17 |
发明(设计)人: | 宿玉文;张焰升 | 申请(专利权)人: | 北京海印博识智能科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/00 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 孙海杰 |
地址: | 102200 北京市昌平区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 三维 池化 二维卷积 神经网络 装置及电子设备 卷积神经网络 转换 整形函数 卷积核 轻量化 整形 二维 卷积 预设 加速引擎 维度 应用 学习 | ||
1.一种卷积神经网络轻量化方法,其特征在于,针对于包括三维卷积层、三维池化层和三维卷积核的三维卷积神经网络,所述方法包括:
通过预设整形函数将所述三维卷积层转换为二维卷积层;
对所述三维卷积核进行去维度操作以将所述三维卷积核转换为二维卷积核;
通过所述预设整形函数对所述三维池化层进行整形操作,并对整形操作后的三维池化层进行池化操作以将所述三维池化层转换为二维池化层,获得转换后的二维卷积神经网络。
2.根据权利要求1所述的卷积神经网络轻量化方法,其特征在于,所述三维卷积层的输入特征图记为B×C×T×M×N,其中,B为每次训练时使用的训练样本个数,C为通道数,T为时间维度,M为高度维度,N为宽度维度,所述通过预设整形函数将所述三维卷积层转换为二维卷积层的步骤包括:
针对各所述训练样本以及各所述通道,通过预设整形函数将所述三维卷积层在不同时间维度上的高度维度进行合并,根据合并后的高度维度以及所述宽度维度构成转换后输入特征图大小为(T×M)×N的二维卷积层。
3.根据权利要求2所述的卷积神经网络轻量化方法,其特征在于,所述三维卷积核记为1×m×n,其中,所述三维卷积核的时间维度为1,m为所述三维卷积核的高度维度,n为所述三维卷积核的宽度维度,所述对所述三维卷积核进行去维度操作以将所述三维卷积核转换为二维卷积核的步骤包括:
去除1×m×n的三维卷积核的时间维度,获得转换后为m×n的二维卷积核。
4.根据权利要求1所述的卷积神经网络轻量化方法,其特征在于,所述三维卷积层的输入特征图记为B×C×T×M×N,其中,B为每次训练时使用的训练样本个数,C为通道数,T为时间维度,M为高度维度,N为宽度维度,所述通过预设整形函数将所述三维卷积层转换为二维卷积层的步骤包括:
针对各所述训练样本以及各所述通道,通过预设整形函数将所述三维卷积层的特征图数据按线性排列,以得到(M×N)的一维特征图,再将所所述一维特征图沿着时间维度进行合并,构成输入特征图大小为T×(M×N)的二维卷积层。
5.根据权利要求4所述的卷积神经网络轻量化方法,其特征在于,所述三维卷积核记为t×1×1,其中,t为所述三维卷积核的时间维度,所述三维卷积核的高度为1,所述三维卷积核的宽度为1,所述对所述三维卷积核进行去维度操作以将所述三维卷积核转换为二维卷积核的步骤包括:
去除t×1×1的三维卷积核的宽度维度,获得转换后为t×1的二维卷积核。
6.根据权利要求1所述的卷积神经网络轻量化方法,其特征在于,所述三维池化层的输入特征图记为B×C×T×M×N,B为每次训练时使用的训练样本个数,C为通道数,T为时间维度,M为高度维度,N为宽度维度,所述通过所述预设整形函数对所述三维池化层进行整形操作,并对整形操作后的三维池化层进行池化操作以将所述三维池化层转换为二维池化层,获得转换后的二维卷积神经网络的步骤包括:
针对各所述训练样本以及各所述通道,通过预设整形函数将输入特征图大小为T×M×N的三维池化层转换为输入特征图大小为(T×M)×N的初步输出二维池化层;
对输入特征图大小为(T×M)×N的初步输出二维池化层进行池化操作,获得输出特征图大小为(T1×M1)×N1的二维池化层;
根据所述二维卷积层、二维卷积核及二维池化层构成转换后的二维卷积神经网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京海印博识智能科技有限公司,未经北京海印博识智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910042679.3/1.html,转载请声明来源钻瓜专利网。