[发明专利]一种分布式极限学习机优化集成框架方法系统及方法有效
| 申请号: | 201510562472.0 | 申请日: | 2015-09-07 |
| 公开(公告)号: | CN105184368B | 公开(公告)日: | 2018-07-31 |
| 发明(设计)人: | 王书强;卢哲;申妍燕;曾德威 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08 |
| 代理公司: | 深圳市科进知识产权代理事务所(普通合伙) 44316 | 代理人: | 宋鹰武 |
| 地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 分布式 极限 学习机 优化 集成 框架 方法 系统 | ||
1.一种分布式极限学习机优化集成框架系统,其特征在于,包括数据分布存储模块、Stack-Autoencoder特征提取模块、分布式计算模块和结果输出模块:
所述数据分布存储模块用于读入训练数据,并根据数据的类型和规模确定隐层数和隐层节点数;同时根据隐层数将数据分割为多个训练子集,并将分割的数据分布到不同的训练子集中进行存储;
所述Stack-Autoencoder特征提取模块用于对分布在各个训练子集的训练数据进行特征学习,获得各个训练子集压缩化的输入数据,并对输入数据进行归一化处理和特征提取;
所述分布式计算模块用于根据对各个训练子集压缩化输入数据提取的特征和隐层节点数进行映射和归约处理得到总体最优权值;
所述结果输出模块用于输出最优权值分析结果;
所述数据分布存储模块包括数据采集单元、分布式存储单元和隐层分析单元;其中:
所述数据采集单元用于读入训练数据;
所述隐层分析单元用于并根据数据的类型和规模,确定ELM隐层数和隐层节点数;
所述分布式存储单元用于根据隐层数将数据分割为多个训练子集,同时将分割的数据分布到不同的训练子集中进行存储。
2.根据权利要求1所述的分布式极限学习机优化集成框架系统,其特征在于,所述分布式计算模块包括映射单元和归约单元;其中:
所述映射单元用于根据对各个训练子集压缩化输入数据提取的特征和隐层节点数计算得到各个分块子集权重值;
所述归约单元用于根据各个分块子集权重值计算得到总体最优权值。
3.根据权利要求2所述的分布式极限学习机优化集成框架系统,其特征在于,所述映射单元具体为:根据隐层节点数与输入数据确定隐层输出矩阵H和键值对HTH,并设置映射过程中隐层输出矩阵和键值对的值,训练子集按照ELM算法对各个子集进行并行计算,经标准误差函数和梯度下降法计算得到各个子集权重,即:
其中,η为学习速率,k为子集个数,t为各个子集训练目标值,βk为预测值,αk为各个节点的权重,β为网络输出最优权值,αi为各个分块子集的权值。
4.根据权利要求3所述的分布式极限学习机优化集成框架系统,其特征在于,所述归约单元具体为:确定归约过程中的键值对,并根据各个子集权重计算最终的最优权值,即:
其中,αi为上述计算得到的各个分块子集的权值。
5.一种分布式极限学习机优化集成框架方法,其特征在于,包括:
步骤a:读入训练数据,根据数据的类型和规模,确定隐层数和隐层节点数;
步骤b:根据隐层数将数据分割为多个训练子集,同时将分割的数据分布到不同的训练子集中进行存储;
步骤c:对分布在各训练子集中的数据进行特征学习,获得压缩化的输入数据,并对压缩化的输入数据进行归一化处理和特征提取;
步骤d:根据对压缩化的输入数据提取的特征和步骤a确定的隐层节点数进行映射和归约处理得到总体最优权值;
步骤e:输出最优权值分析结果。
6.根据权利要求5所述的分布式极限学习机优化集成框架方法,其特征在于,在所述步骤d中,映射处理为根据对各个训练子集压缩化输入数据提取的特征和步骤a确定的隐层节点数计算得到各个分块子集权重值;所述归约处理为根据各个分块子集权重值计算得到总体最优权值。
7.根据权利要求6所述的分布式极限学习机优化集成框架方法,其特征在于,所述映射处理具体为:根据隐层节点数与输入数据确定隐层输出矩阵H和键值对HTH,并设置映射过程中隐层输出矩阵和键值对的值,训练子集按照ELM算法对各个子集进行并行计算,经标准误差函数和梯度下降法计算得到各个子集权重,即:
其中,η为学习速率,k为子集个数,t为各个子集训练目标值,βk为预测值,αk为各个节点的权重,β为网络输出最优权值,αi为各个分块子集的权值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510562472.0/1.html,转载请声明来源钻瓜专利网。





