[发明专利]计算机可读记录介质、计算处理方法和信息处理设备在审
| 申请号: | 202111075987.X | 申请日: | 2021-09-14 |
| 公开(公告)号: | CN114444710A | 公开(公告)日: | 2022-05-06 |
| 发明(设计)人: | 甲斐雄高;笠置明彦;原靖;檀上匠 | 申请(专利权)人: | 富士通株式会社 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N3/04;G06N3/08 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 杜诚;姚文杰 |
| 地址: | 日本神*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 计算机 可读 记录 介质 计算 处理 方法 信息处理 设备 | ||
1.一种存储计算处理程序的非暂态计算机可读记录介质,所述计算处理程序用于使计算机执行处理,所述处理包括:
在机器学习模型的机器学习时,计算包括所述机器学习模型的输入层的所述机器学习模型的多个层的误差梯度;
选择误差梯度小于阈值的层作为所述机器学习的抑制目标;以及
在所述机器学习被抑制之前的一定时间段内,在被选为所述抑制目标的所述层上控制学习率并且执行所述机器学习。
2.根据权利要求1所述的存储计算处理程序的非暂态计算机可读记录介质,其中,所述执行的处理使用控制开始时的学习率、所述一定时间段和每次迭代的迭代数目来计算被选为所述抑制目标的所述层的学习率,并且使用所计算的学习率执行所述机器学习。
3.根据权利要求2所述的存储计算处理程序的非暂态计算机可读记录介质,其中,所述执行的处理降低每次迭代的所述学习率以使得在经过所述一定时间段的时间处收敛。
4.根据权利要求2所述的存储计算处理程序的非暂态计算机可读记录介质,其中,
所述选择的处理进行如下操作:
以从所述输入层开始的顺序将所述多个层划分为多个块;以及
使用属于所述多个块的每层的所述误差梯度选择要作为所述机器学习的抑制目标的块,以及
所述执行的处理进行如下操作:
对于属于被选择为所述抑制目标的所述块的每层,控制所述学习率并且执行所述机器学习。
5.根据权利要求4所述的存储计算处理程序的非暂态计算机可读记录介质,其中,所述选择的处理以更靠近所述输入层的顺序选择要作为所述机器学习的所述抑制目标的块。
6.根据权利要求4或5所述的存储计算处理程序的非暂态计算机可读记录介质,其中,所述执行的处理使用所述一定时间段来计算每次迭代的所述学习率,其中,在所述多个块中的块越靠近所述输入层时,所述一定时间段越长。
7.根据权利要求4或5所述的存储计算处理程序的非暂态计算机可读记录介质,其中,所述执行的处理改变针对所述多个块在所述一定时间内收敛的学习率并且降低每次迭代的所述学习率,以使得所述学习率在经过所述一定时间段的时间处收敛。
8.一种计算机实现的方法,包括:
在机器学习模型的机器学习时,计算包括所述机器学习模型的输入层的所述机器学习模型的多个层的误差梯度;
选择误差梯度小于阈值的层作为所述机器学习的抑制目标;以及
在所述机器学习被抑制之前的一定时间段内,在被选为所述抑制目标的所述层上控制学习率并且执行所述机器学习。
9.一种信息处理设备,包括:
计算单元,被配置成在所述机器学习模型的机器学习时计算包括所述机器学习模型的输入层的所述机器学习模型的多个层的误差梯度;
选择单元,被配置成选择所述误差梯度小于阈值的层作为所述机器学习的抑制目标;以及
执行单元,被配置成在所述机器学习被抑制之前的一定时间段内,在被选为所述抑制目标的所述层上控制学习率并且执行所述机器学习。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于富士通株式会社,未经富士通株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111075987.X/1.html,转载请声明来源钻瓜专利网。





