[发明专利]一种FSMN数据处理方法、装置、介质和设备在审
| 申请号: | 202010117089.5 | 申请日: | 2020-02-25 |
| 公开(公告)号: | CN111368974A | 公开(公告)日: | 2020-07-03 |
| 发明(设计)人: | 徐仁新;陈孝良;冯大航 | 申请(专利权)人: | 北京声智科技有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
| 代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 万晓君 |
| 地址: | 100080 北京市海淀区北四*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 fsmn 数据处理 方法 装置 介质 设备 | ||
本发明涉及一种FSMN数据处理方法、装置、介质和设备。针对目前FSMN每一隐藏层通过内存拷贝方式保存历史数据、当前数据和未来数据,每次有新的数据,需要将所有原有数据进行位置移动,导致数据处理速度较慢的问题,本发明实施例提出,可以根据产生的时间先后顺序,利用环形队列实现历史数据、当前数据和未来数据的保存,这样每次有新的数据,可以直接用新的数据更新对应的原始的数据,利用指针维护每个数据的位置,在进行数据处理时,无需进行内存拷贝,有效加快数据处理速度。
技术领域
本发明涉及人工智能技术领域,特别涉及一种FSMN数据处理方法、装置、介质和设备。
背景技术
目前,前馈型序列记忆网络(FSMN,Feed-forward Sequential Memory Network)得到了广泛使用,例如,FSMN可以应用于关键字识别(KWS)领域,以保证设备在不同的环境下具有更高的唤醒率。
FSMN的架构可以如图1所示。它是在深度神经网络(DNN,Deep Neural Networks)架构上,又结合了当前和历史的信息,既具备DNN计算量小的特点,同时参数量也较小。
FSMN架构可以包括输入层(Input layer),隐藏层(Hidden layer)和输出层(Output layer)。输入层输入数据可以以Xt表示,输出层输出数据可以以yt表示。在每一个隐藏层,由当前数据htt(一个当前数据根据未来数据(此处的未来数据可以为多个,最新的未来数据为该层最新接收到的输入数据,未来数据也可以理解为输入数据)得到)得到的输出数据Wt,以及由历史数据(此处的历史数据可以为多个历史数据,最新的历史数据为该层本次之前一次得到的当前数据)得到的输出数据(可以理解为由记忆模块得到输出数据在图1中记为Memory Block),相加作为下一层的输入数据,进而下一个隐藏层可以根据输入数据,得到对应的当前数据htt+1。
目前,FSMN每一隐藏层通过内存拷贝方式保存历史数据、当前数据和未来数据,以实现每一层的数据处理过程。虽然内存拷贝在当前的处理器中有相应的加速处理函数,但是FSMN每一层均进行信息拷贝和搬移,且每一层的数据处理过程涉及的历史数据和未来数据都有可能为多个(数据维度较多),由于FSMN计算周期较短,一般都在毫秒级,这样累加起来会占用较多的系统资源,造成数据处理速度较慢。
发明内容
本发明实施例提供一种FSMN数据处理方法、装置、介质和设备,用于解决FSMN数据处理速度较慢的问题。
本发明提供了一种FSMN数据处理方法,针对所述FSMN的每一个隐藏层,该隐藏层对应的指定未来维度的输入数据、当前数据和指定历史维度的历史数据按照产生的时间先后顺序,依次保存在该隐藏层对应的环形队列中,一个隐藏层接收到一个输入数据时,所述方法包括:
将接收到的输入数据,保存在该隐藏层对应的环形队列中,对应的时间最早的历史数据所保存的位置;
根据产生的时间先后顺序,利用指针从该隐藏层对应的环形队列中,查找保存的指定未来维度的输入数据,根据查找到的输入数据确定一个当前数据,并将确定出的当前数据,保存在该隐藏层对应的环形队列中,对应的时间最早的输入数据所保存的位置。
本发明还提供了一种FSMN数据处理装置,针对所述FSMN的每一个隐藏层,该隐藏层对应的指定未来维度的输入数据、当前数据和指定历史维度的历史数据按照产生的时间先后顺序,依次保存在该隐藏层对应的环形队列中,所述装置包括:
接收模块,用于针对一个隐藏层,接收一个输入数据;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京声智科技有限公司,未经北京声智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010117089.5/2.html,转载请声明来源钻瓜专利网。





