[发明专利]一种基于多任务深度神经网络的数据识别方法及装置有效
申请号: | 201310316221.5 | 申请日: | 2013-07-17 |
公开(公告)号: | CN103345656A | 公开(公告)日: | 2013-10-09 |
发明(设计)人: | 谭铁牛;王亮;王威;黄岩 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06N3/02 | 分类号: | G06N3/02 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 宋焰琴 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 任务 深度 神经网络 数据 识别 方法 装置 | ||
1.一种基于多任务深度神经网络的数据识别方法,包括步骤:
步骤1、建立多任务深度神经网络,其中所述多任务深度神经网络为多层网络结构,输入层对应数据向量,输出层每两个节点对应一个类别标签,以用于表示是否属于该类别标签;该多任务深度神经网络具有网络权重,用于根据当前层节点值获得下一层节点值;
步骤2、将所述多任务深度神经网络相邻两层看作限制的波尔兹曼机,采用无监督地自底向上的逐层训练方法来预训练该多任务深度神经网络,获得相邻层之间的初始连接权重;
步骤3、利用反向传播算法有监督地最小化关于所述网络权重的目标函数,以获得优化后的网络权重;
步骤4、将待识别数据输入具有优化后网络权重的所述多任务深度神经网络,得到输出层节点值,并根据输出层节点值得出所述待识别数据所属的类别。
2.如权利要求1所述的数据识别方法,其特征在于,步骤1中除输入层的其它层节点值如下获得:
其中,hi表示第i层的节点值向量,Wi表示第i层与其前一层的连接权重,hi-1表示第i-1层的节点值向量,i为大于等于1的整数,h0表示输入层数据向量;g(x)=1/(1+e-x)。
3.如权利要求1所述的数据识别方法,其特征在于,步骤2中将相邻两层看作一个限制的波尔兹曼机,求解初始连接权重,具体如下表示:
其中,Wi表示第i层与其前一层的连接权重,hi表示第i层的节点值向量,∈为常数,P(hi)表示第i层数据的概率分布,i为大于等于1的整数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310316221.5/1.html,转载请声明来源钻瓜专利网。