[发明专利]一种双层PID优化的BP神经网络语音识别方法有效
申请号: | 202011455918.7 | 申请日: | 2020-12-10 |
公开(公告)号: | CN112542161B | 公开(公告)日: | 2022-08-12 |
发明(设计)人: | 和思铭;李伟觐;曾文钰;范晨奥;刘世新;汪雨琦;吴英然 | 申请(专利权)人: | 长春工程学院 |
主分类号: | G10L15/16 | 分类号: | G10L15/16;G10L15/06;G06N3/08;G06N3/04 |
代理公司: | 长春吉大专利代理有限责任公司 22201 | 代理人: | 王立文 |
地址: | 130012 吉林*** | 国省代码: | 吉林;22 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 双层 pid 优化 bp 神经网络 语音 识别 方法 | ||
本发明涉及一种双层PID优化的BP神经网络语音识别方法,将FPGA作为语音信号输入方法的平台,使用PID算法对权阈值以及学习速率进行调整,双层PID算法中的KP,KI和KD三参数都根据系统和训练结果的误差Eg(k)进行自动调整,使隐藏层与输出层权阈值收敛更稳定,减轻系统的数据波动;外层PID算法使学习速率的更新与神经网络训练过程同步,在神经网络训练前期提供一个较大的更新强度使神经网络快速迭代,在神经网络训练后期降低更新强度防止数据偏离正确值,使学习速率既能在前期提供较大更新强度,帮助系统快速更新,又能在后期减小更新强度,防止数据偏离正确值,语音识别正确率更高。
技术领域:
本发明涉及一种人工智能算法,特别是双层PID优化的BP神经网络语音识别器
背景技术:
语音识别作为人工智能领域重要应用方向,已经有诸多学者对其进行研究,比如深度学习下的语音识别,支持向量机下的语音识别方法等。在学习算法方面,BP算法一直以很强的非线性映射以及其简单结构而出名,其在语音识别背景上的应用也由来已久,但是它也存在一些缺陷,比如权值阈值和学习速率在网络初始化时无法确定,设置过大则会使收敛波动大,设置较小则收敛速度较慢。现有的权值阈值更新公式几乎都依赖负梯度算法,虽然负梯度算法在一定程度上加速了权值阈值的收敛,但是带来的数值波动太大,又在一定程度上影响到了权值阈值正常收敛。同时对于学习速率的更新,基本都是在不断实验中人为调节设置,现有的变学习速率算法,只是简单地线性地减小学习速率,在算法进行到后期时降低学习速率的影响,避免因过大的更新力度造成波动使输出偏离正确结果,但其在算法的正确率上并没有起到什么效果,使用一般的BP神经网络结构识别音乐数据会出现类似音乐识别正确率低的情况。
CN103639211A公开了一种BP神经网络和PID参数优化的辊缝控制方法及系统,提出了一种使用神经网络优化PID结构的方法,其方法使PID参数更加稳定,使其算法更加稳定。
CN110488600A公开了一种LQR优化型无刷直流电机调速神经网络PID控制器,提出了一种使用LQR算法优化神经网络调节PID的算法,使其对直流电机控制更加稳定。
CN104834215A公开了一种变异粒子群优化的BP神经网络PID控制算法,提出了一种用变异粒子群算法优化BP神经网络PID控制算法,此方法使PID算法输出更加稳定。
发明内容:
本发明的目的是针对上述现有技术的不足,提供一种双层PID优化的BP神经网络语音识别方法。
发明思想:将载有该语音识别功能的FPGA作为语音信号输入方法的平台。双层PID分为内外两层,内层PID算法减轻负梯度算法带来的数据波动,使权值阈值更新过程收敛平缓,减小收敛时产生的震荡;同时,外层PID算法使学习速率的更新与神经网络训练过程同步,在神经网络训练前期提供一个较大的更新强度使神经网络快速迭代,在神经网络训练后期降低更新强度防止数据偏离正确值,语音识别正确率更高。
本发明的目的是通过以下技术方案实现的:
首先,搭建三层BP神经网络,分别为输入层、隐藏层和输出层。随机生成输出层和隐藏层之间的加权系数Wij(k)和Wjg(k),以及两层间激活函数参数aj(k)和bg(k),选取学习率η(k),并令k=1;
其次,FPGA平台对需要识别的语音进行语音数据提取,并使用BP神经网络对提取后的数据Xi(k)进行分析,计算BP神经网络输出层的输出Og(k),同时根据期望输出Yg(k)计算误差Eg(k),使用误差Eg(k)与PID算法中的比例参数KP,积分参数KI,微分参数KD对η(k)进行调节;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于长春工程学院,未经长春工程学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011455918.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:链式退火装置及管材处理工艺
- 下一篇:一种在线快速供布接布装置及方法