[发明专利]基于级联形式的CNN卷积核硬件设计方法在审

专利信息
申请号: 201710052545.0 申请日: 2017-01-24
公开(公告)号: CN106845635A 公开(公告)日: 2017-06-13
发明(设计)人: 张川;徐炜鸿;尤肖虎 申请(专利权)人: 东南大学
主分类号: G06N3/063 分类号: G06N3/063;G06N3/04;G06N3/08
代理公司: 南京苏高专利商标事务所(普通合伙)32204 代理人: 柏尚春
地址: 210018*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 级联 形式 cnn 卷积 硬件 设计 方法
【权利要求书】:

1.一种基于级联形式的CNN卷积核硬件设计方法,其特征在于,包括以下步骤:

(1)定义卷积基本矩阵,并采用硬件实现,得到卷积基本模块;

(2)将线性卷积用快速卷积算法以矩阵相乘的形式进行表示,并按照表示形式将卷积基本模块进行级联,形成级联卷积模块;

(3)在级联卷积模块中加入通过加法器实现的加法矩阵,以实现并行处理、偏置值的加法计算以及2维卷积和,得到最终快速卷积核。

2.根据权1所述的基于级联形式的CNN卷积核硬件设计方法,其特征在于:步骤(1)具体包括:

(1-1)定义卷积基本矩阵为:

H2=diag(h0,h0-h1,h1),

<mrow><msub><mi>P</mi><mn>3</mn></msub><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd></mtr><mtr><mtd><mn>1</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>1</mn></mtd></mtr></mtable></mfenced><mo>,</mo><msub><mi>Q</mi><mn>3</mn></msub><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mn>1</mn></mtd><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mrow><mo>-</mo><mn>1</mn></mrow></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd></mtr></mtable></mfenced><mo>,</mo></mrow>

H3=diag(h0,h1,h2,h0+h1,h0+h2,h1+h2)

式中,h0、h1、h2分别表示卷积运算中滤波器的各个抽头系数。

(1-2)将P2、Q2、H2、P3、Q3、H3采用硬件实现,得到卷积基本模块P2、Q2、H2、P3、Q3、H3

3.根据权1所述的基于级联形式的CNN卷积核硬件设计方法,其特征在于:步骤(2)具体包括

(2-1)将线性卷积用快速卷积算法以矩阵相乘的形式表示为:

<mrow><msub><mi>Y</mi><mi>L</mi></msub><mo>=</mo><msup><mrow><mo>(</mo><msub><mi>Q</mi><mi>L</mi></msub><msub><mi>H</mi><mi>L</mi></msub><msub><mi>P</mi><mi>L</mi></msub><mi>A</mi><mo>)</mo></mrow><mi>T</mi></msup><msub><mi>X</mi><mi>L</mi></msub><mo>=</mo><mrow><mo>(</mo><msubsup><mi>Q</mi><mi>L</mi><mi>T</mi></msubsup><msubsup><mi>H</mi><mi>L</mi><mi>T</mi></msubsup><msubsup><mi>P</mi><mi>L</mi><mi>T</mi></msubsup><msup><mi>A</mi><mi>T</mi></msup><mo>)</mo></mrow><msub><mi>X</mi><mi>L</mi></msub></mrow>

<mfenced open = "{" close = ""><mtable><mtr><mtd><mrow><msub><mi>X</mi><mi>L</mi></msub><mo>=</mo><msup><mrow><mo>&lsqb;</mo><mrow><msub><mi>X</mi><mrow><mi>L</mi><mo>-</mo><mn>1</mn></mrow></msub><mo>,</mo><msub><mi>X</mi><mrow><mi>L</mi><mo>-</mo><mn>2</mn></mrow></msub><mo>,</mo><mn>...</mn><mo>,</mo><msub><mi>X</mi><mn>0</mn></msub></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup></mrow></mtd></mtr><mtr><mtd><mrow><msub><mi>Y</mi><mi>L</mi></msub><mo>=</mo><msup><mrow><mo>&lsqb;</mo><mrow><msub><mi>Y</mi><mrow><mi>L</mi><mo>-</mo><mn>1</mn></mrow></msub><mo>,</mo><msub><mi>Y</mi><mrow><mi>L</mi><mo>-</mo><mn>2</mn></mrow></msub><mo>,</mo><mn>...</mn><mo>,</mo><msub><mi>Y</mi><mn>0</mn></msub></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup></mrow></mtd></mtr><mtr><mtd><mrow><msub><mi>H</mi><mi>L</mi></msub><mo>=</mo><mi>d</mi><mi>i</mi><mi>a</mi><mi>g</mi><mrow><mo>(</mo><mrow><msub><mi>P</mi><mi>L</mi></msub><mo>&times;</mo><msup><mrow><mo>&lsqb;</mo><mrow><msub><mi>h</mi><mn>0</mn></msub><mo>,</mo><msub><mi>h</mi><mn>1</mn></msub><mo>,</mo><mn>...</mn><mo>,</mo><msub><mi>h</mi><mrow><mi>L</mi><mo>-</mo><mn>1</mn></mrow></msub></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup></mrow><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><msubsup><mi>P</mi><mi>L</mi><mi>T</mi></msubsup><mo>=</mo><mrow><mo>(</mo><mrow><msubsup><mi>P</mi><msub><mi>L</mi><mn>1</mn></msub><mi>T</mi></msubsup><mo>&CircleTimes;</mo><mrow><mo>(</mo><mrow><mn>...</mn><mrow><mo>(</mo><mrow><msubsup><mi>P</mi><msub><mi>L</mi><mrow><mi>r</mi><mo>-</mo><mn>1</mn></mrow></msub><mi>T</mi></msubsup><mo>&CircleTimes;</mo><msubsup><mi>P</mi><msub><mi>L</mi><mi>r</mi></msub><mi>T</mi></msubsup></mrow><mo>)</mo></mrow></mrow><mo>)</mo></mrow></mrow><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><msubsup><mi>Q</mi><mi>L</mi><mi>T</mi></msubsup><mo>=</mo><mrow><mo>(</mo><mrow><msubsup><mi>Q</mi><msub><mi>L</mi><mn>1</mn></msub><mi>T</mi></msubsup><mo>&CircleTimes;</mo><mrow><mo>(</mo><mrow><mn>...</mn><mrow><mo>(</mo><mrow><msubsup><mi>Q</mi><msub><mi>L</mi><mrow><mi>r</mi><mo>-</mo><mn>1</mn></mrow></msub><mi>T</mi></msubsup><mo>&CircleTimes;</mo><msubsup><mi>Q</mi><msub><mi>L</mi><mi>r</mi></msub><mi>T</mi></msubsup></mrow><mo>)</mo></mrow></mrow><mo>)</mo></mrow></mrow><mo>)</mo></mrow></mrow></mtd></mtr></mtable></mfenced>

式中,L表示线性卷积的长度,满足关系L=L1L2...Lr,其中Li表示将线性卷积分解成r个级联子卷积后,其中第i个子卷积的长度,且Li=2,3;XL表示线性卷积输入矩阵,X*表示线性卷积的第*个输入向量;QL表示级联的后处理矩阵,表示第i个子卷积滤波器的后处理矩阵,表示张量积运算;HL表示对角化的级联滤波器矩阵,h*表示第*个滤波器系数;PL表示预处理矩阵,表示第i个子卷积滤波器的预处理矩阵;A表示级联形式中用来调整输入向量的矩阵;YL表示线性卷积输出矩阵,Y*表示线性卷积的第*个输出向量;

(2-2)将各个和替换为对应的卷积基本模块Q2、Q3和P2、P3,以及根据卷积系数计算得到HL,并按照(2-1)的表示形式进行级联,形成级联卷积模块。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710052545.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top