[发明专利]一种基于FPGA的文本生成装置、方法及电子设备在审
申请号: | 202010520373.7 | 申请日: | 2020-06-09 |
公开(公告)号: | CN111680794A | 公开(公告)日: | 2020-09-18 |
发明(设计)人: | 刘奇 | 申请(专利权)人: | 北京环境特性研究所 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F9/28;G06F9/30 |
代理公司: | 北京格允知识产权代理有限公司 11609 | 代理人: | 周娇娇 |
地址: | 100854*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 fpga 文本 生成 装置 方法 电子设备 | ||
本发明涉及一种基于FPGA的文本生成装置、方法及电子设备。上述文本生成装置包括存储单元、数据读取单元、前向运算单元和反向传播单元;存储单元用于存储配套文件,配套文件包括初始权值矩阵文件、训练数据集文件和测试数据集文件;数据读取单元用于读取存储在存储单元中的配套文件,以提供给前向运算单元和反向传播单元,基于前向运算单元和反向传播单元进行的前向运算和反向传播,实现文本生成的训练和测试。本发明的上述基于FPGA的文本生成装置、方法及电子设备,运算速度快、功耗低,能够应用于嵌入式系统。
技术领域
本发明涉及自然语言处理技术领域,尤其涉及一种基于FPGA的文本生成装置、方法及电子设备。
背景技术
文本生成是自然语言处理(Natural Language Processing,NLP)技术研究的热点领域,传统的文本生成方法多是通过使用tensorflow、caffe等软件平台实现RNN、LSTM,再使用CPU或GPU完成神经网络的运算。
然而,上述传统的文本生成方法的运算速度慢、实时性差,而且限制了其应用场景的拓展。
因此,针对以上不足,需要提供一种速度快、功耗低、可以应用于嵌入式系统的文本生成器。
发明内容
本发明要解决的技术问题在于现有基于tensorflw、caffe等开源框架软件实现RNN的技术存在运算速度慢、功耗高、难以应用于嵌入式系统的问题,针对现有技术中的缺陷,提供一种基于FPGA的文本生成装置、方法及电子设备。
为了解决上述技术问题,本发明提供了一种基于FPGA的文本生成装置,所述文本生成装置包括存储单元、数据读取单元、前向运算单元和反向传播单元;其中,所述存储单元用于存储配套文件,所述配套文件包括初始权值矩阵文件、训练数据集文件和测试数据集文件;所述数据读取单元用于读取存储在所述存储单元中的所述配套文件,以提供给所述前向运算单元和所述反向传播单元,基于所述前向运算单元和所述反向传播单元进行的前向运算和反向传播,实现文本生成的训练和测试。
进一步地,所述存储单元包括:寄存器模块,用于存储初始权值矩阵文件;ROM模块,用于存储所述训练数据集文件和所述测试数据集文件。
进一步地,所述前向运算单元采用流水线结构设计,用于实现矩阵的乘法、加法以及激活函数relu、softmax的运算,并将每一步运算的数据保存在所述寄存器模块中对应的寄存器中。
进一步地,所述反向传播单元采用流水线结构设计,用于实现矩阵的乘法、加法及减法,以将运算过程中的偏导数运算转换为矩阵的乘法、加法和减法运算。
本发明还提供了一种基于FPGA的文本生成方法,所述文本生成方法基于文本生成装置实现,所述文本生成装置包括存储单元、数据读取单元、前向运算单元和反向传播单元;所述文本生成方法包括:预先在所述存储单元中存储配套文件,所述配套文件包括初始权值矩阵文件、训练数据集文件和测试数据集文件;通过所述数据读取单元读取存储在所述存储单元中的所述配套文件,以提供给所述前向运算单元和所述反向传播单元,基于所述前向运算单元和所述反向传播单元进行的前向运算和反向传播,实现文本生成的训练和测试。
进一步地,将所述初始权值矩阵文件存储在寄存器模块中,将所述训练数据集文件和所述测试数据集文件存储在ROM模块中。
进一步地,所述前向运算单元采用流水线结构设计,实现矩阵的乘法、加法以及激活函数relu、softmax的运算,并将每一步运算的数据保存在所述寄存器模块中对应的寄存器中。
进一步地,所述反向传播单元采用流水线结构设计,实现矩阵的乘法、加法及减法,以将运算过程中的偏导数运算转换为矩阵的乘法、加法和减法运算。
本发明还提供了一种电子设备,该电子设备包括如上所述的文本生成装置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京环境特性研究所,未经北京环境特性研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010520373.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种汽车减震器用弹簧制造设备
- 下一篇:一种高炉出铁沟浇注料