[发明专利]深度学习softmax分类器的硬件实现电路及其控制方法有效
申请号: | 201711039589.6 | 申请日: | 2017-10-30 |
公开(公告)号: | CN109726809B | 公开(公告)日: | 2020-12-08 |
发明(设计)人: | 张玉;康君龙;谢东亮 | 申请(专利权)人: | 赛灵思公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F7/485;G06F7/487;G06F7/556 |
代理公司: | 北京卓孚律师事务所 11821 | 代理人: | 任宇 |
地址: | 美国加利福尼亚*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 深度 学习 softmax 分类 硬件 实现 电路 及其 控制 方法 | ||
1.一种softmax分类器的硬件实现电路,包括:
接口数据读控制模块,用于从外部存储器中读取计算数据给指数计算模块;
指数计算模块,用于并行地进行浮点元素的指数运算;
加法树模块,用于进行指数计算模块的运算结果的累加运算;
缓存模块,用于缓存指数计算模块的运算结果以及加法树模块的累加运算结果;
除法计算模块,用于并行地计算各个浮点元素的指数运算结果与所有浮点元素指数运算结果之和的比值;
接口数据写控制模块,用于将除法计算模块的计算结果写入外部存储器中。
2.根据权利要求1所述的硬件实现电路,其中,所述指数计算模块和所述除法计算模块的计算并行度取决于模块接口的数据带宽,如下公式所示:
IO_data_width×IO_freq=Calc_num×Calc_data_width×Calc_freq,
其中IO_data_width是IO数据位宽,IO_freq是IO接口数据频率,Calc_num是计算模块的并行度,Calc_data_width是每一个计算单元支持的数据位宽,Calc_freq是计算模块的运行频率。
3.根据权利要求1或2所述的硬件实现电路,其中,所述指数计算模块和所述除法计算模块的计算并行度为4,所述指数计算模块包括4个指数计算单元,所述除法计算模块包括4个除法计算单元,所述加法树模块包括2级共3个浮点加法计算单元。
4.根据权利要求1所述的硬件实现电路,其中,所述缓存模块包括指数运算结果缓存和累加运算结果缓存。
5.根据权利要求4所述的硬件实现电路,其中,所述指数运算结果缓存和所述累加运算结果缓存都采用先进先出(FIFO)结构。
6.一种softmax分类器的硬件实现电路的控制方法,包括:
接口数据读控制模块从外部存储器中读取要计算的数据;
数据并行进入指数计算模块,进行浮点元素的指数运算;
指数计算模块的运算结果在加法树模块进行累加运算;
通过缓存模块来缓存指数计算模块的运算结果以及加法树模块的累加运算结果;
通过读取缓存模块,在除法计算模块并行地计算各个浮点元素的指数运算结果与所有浮点元素指数运算结果之和的比值;
将除法计算模块的计算结果经接口数据写控制模块写入外部存储模块。
7.根据权利要求6所述的控制方法,其中,所述指数计算模块和所述除法计算模块的计算并行度取决于模块接口的数据带宽,如下公式所示:
IO_data_width×IO_freq=Calc_num×Calc_data_width×Calc-freq,
其中IO_data_width是IO数据位宽,IO_freq是IO接口数据频率,Calc_num是计算模块的并行度,Calc_data_width是每一个计算单元支持的数据位宽,Calc_freq是计算模块的运行频率。
8.根据权利要求6或7所述的控制方法,其中,所述指数计算模块和所述除法计算模块的计算并行度为4,所述指数计算模块包括4个指数计算单元,所述除法计算模块包括4个除法计算单元,所述加法树模块包括2级共3个浮点加法计算单元。
9.根据权利要求6所述的控制方法,其中,所述缓存模块包括指数运算结果缓存和累加运算结果缓存。
10.根据权利要求9所述的控制方法,其中,所述指数运算结果缓存和所述累加运算结果缓存都采用先进先出(FIFO)结构。
11.一种计算机可读介质,用于记录可由处理器执行的指令,所述指令在被处理器执行时,使得处理器执行softmax分类器的硬件实现电路的控制方法,包括如下操作:
接口数据读控制模块从外部存储器中读取要计算的数据;
数据并行进入指数计算模块,进行浮点元素的指数运算;
指数计算模块的运算结果在加法树模块进行累加运算;
通过缓存模块来缓存指数计算模块的运算结果以及加法树模块的累加运算结果;
通过读取缓存模块,在除法计算模块并行地计算各个浮点元素的指数运算结果与所有浮点元素指数运算结果之和的比值;
将除法计算模块的计算结果经接口数据写控制模块写入外部存储模块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于赛灵思公司,未经赛灵思公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711039589.6/1.html,转载请声明来源钻瓜专利网。