[发明专利]训练稀疏连接神经网络的方法在审
申请号: | 202010123340.9 | 申请日: | 2020-02-27 |
公开(公告)号: | CN111985603A | 公开(公告)日: | 2020-11-24 |
发明(设计)人: | 唐志敏;谢必克;朱逸煜 | 申请(专利权)人: | 耐能智慧股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 王天尧;汤在彦 |
地址: | 中国台*** | 国省代码: | 台湾;71 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种训练稀疏连接神经网络的方法,包括在训练神经网络的时将权重分解为权重变数和二元遮罩的乘积,二元遮罩是遮罩变数通过单位元阶梯函数得到。二元遮罩中的元素代表对应位置的权重是否有连接,0代表没有连接,1代表有连接。如果二元遮罩大部分的元素为0,那么训练得到的就是稀疏的连接的神经网络。将权重具有连接的数量,也就是二元遮罩里面元素为1的数量,作为目标函数中的一项。训练时,根据目标函数调整权重变数及遮罩变数即会逐渐衰减遮罩变数的值,藉以保证二元遮罩的稀疏性。 | ||
搜索关键词: | 训练 稀疏 连接 神经网络 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于耐能智慧股份有限公司,未经耐能智慧股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010123340.9/,转载请声明来源钻瓜专利网。