[发明专利]一种神经网络的优化方法、装置、计算机及存储介质在审
申请号: | 201710515464.X | 申请日: | 2017-06-29 |
公开(公告)号: | CN107273976A | 公开(公告)日: | 2017-10-20 |
发明(设计)人: | 李文海;李良;江荣钿;章飞;庄旭强;陈彦明 | 申请(专利权)人: | 广州日滨科技发展有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京品源专利代理有限公司11332 | 代理人: | 孟金喆 |
地址: | 510660 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 神经网络 优化 方法 装置 计算机 存储 介质 | ||
1.一种神经网络的优化方法,其特征在于,包括:
建立神经网络,获取所述神经网络的各神经元的初始随机权值;
根据所述初始随机权值、预设随机增量范围确定预设数量的随机权值序列;
根据所述初始随机权值对应的初始权值序列和所述随机权值序列确实优化神经网络。
2.根据权利要求1所述的方法,其特征在于,根据所述初始随机权值、预设随机增量范围确定预设数量的随机权值序列,包括
根据所述初始随机权值生成所述初始权值序列;
根据所述预设随机增量范围生成预设数量的随机增量序列,所述随机增量序列与所述初始权值序列的维度相同;
将所述初始权值序列与所述随机增量序列中对应数值叠加,生成所述预设数量的随机权值序列。
3.根据权利要求1所述的方法,其特征在于,根据所述初始随机权值对应的初始权值序列和所述随机权值序列确实优化神经网络,包括:
根据预设规则生成与所述初始权值序列和所述随机权值序列对应的初始化神经网络;
根据学习样本确定所述各初始化神经网络的优异度;
根据所述优异度确定所述优化神经网络。
4.根据权利要求3所述的方法,其特征在于,根据预设规则生成与所述初始权值序列和所述随机权值序列对应的初始化神经网络,包括:
将所述随机权值序列和所述初始权值序列,根据预设规则依次填充至所述神经网络的对应神经元,生成所述初始化神经网络,所述随机权值序列的维度、所述初始权值的维度以及所述神经网络的神经元数量相同。
5.根据权利要求3所述的方法,其特征在于,根据学习样本确定所述各初始化神经网络的优异度,包括:
将所述学习样本输入所述初始化神经网络,确定所述初始化神经网络的输出值;
根据所述输出值与所述学习样本的标准输出值确定所述神经网络的训练误差;
根据所述训练误差确定所述神经网络的优异度。
6.根据权利要求3所述的方法,其特征在于,根据所述优异度确定所述优化神经网络,包括:
筛选最大优异度对应的初始化神经网络,确定为所述优化神经网络。
7.根据权利要求1-6任一所述的方法,其特征在于,在根据所述初始随机权值对应的初始权值序列和所述随机权值序列确实优化神经网络之后,还包括:
将所述优化神经网络对应的权值序列更新为初始权值序列;
根据更新后的初始权值序列循环确定新的优化神经网络。
8.根据权利要求7所述的方法,其特征在于,在将所述优化神经网络对应的权值序列更新为初始权值序列之前,还包括:
确定所述优化神经网络的训练误差小于等于期望误差;
若是,则停止循环确定新的优化神经网络,将当前优化神经网络确定为最终的优化神经网络。
9.根据权利要求7所述的方法,其特征在于,在将所述优化神经网络对应的权值序列更新为初始权值序列之前,还包括:
确定所述神经网络的当前迭代次数是否大于预设迭代次数,其中,在确实所述优化神经网络之后,将前一次的迭代次数加1,生成所述当前迭代次数;
若是,则停止循环确定新的优化神经网络,将当前优化神经网络确定为最终的优化神经网络。
10.一种神经网络的优化装置,其特征在于,包括:
神经网络建立模块,用于建立神经网络,获取所述神经网络的各神经元的初始随机权值;
随机权值序列确定模块,用于根据所述初始随机权值、预设随机增量范围确定预设数量的随机权值序列;
优化神经网络确定模块,用于根据所述初始随机权值对应的初始权值序列和所述随机权值序列确实优化神经网络。
11.一种计算机,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-9任一所述的神经网络的优化方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-9任一所述的神经网络的优化方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州日滨科技发展有限公司,未经广州日滨科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710515464.X/1.html,转载请声明来源钻瓜专利网。