[发明专利]一种基于梯度下降的时序模糊认知图的学习方法及系统在审
申请号: | 201810592605.2 | 申请日: | 2018-06-11 |
公开(公告)号: | CN108875960A | 公开(公告)日: | 2018-11-23 |
发明(设计)人: | 冯禹洪;李宸;华静静;周才清;钟皓明;苗春燕 | 申请(专利权)人: | 深圳大学 |
主分类号: | G06N99/00 | 分类号: | G06N99/00;G06N7/02 |
代理公司: | 深圳市恒申知识产权事务所(普通合伙) 44312 | 代理人: | 袁文英 |
地址: | 518060 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 时序 模糊认知图 权值函数 损失函数 初始化 样本集 构建 预处理 时间序列分析 系数初始化 训练样本集 下降算法 训练样本 样本数据 下降法 最优解 预测 迭代 度量 学习 优化 搜索 网络 验证 统计 | ||
1.一种基于梯度下降的时序模糊认知图的学习方法,其特征在于,包括:
步骤A,获取初始样本数据,对所述初始样本数据进行预处理,得到样本数据;
步骤B,对所述样本数据进行划分,得到训练样本集和预测样本集;
步骤C,使用基于时序的皮尔逊相关系数初始化权值函数,在所述训练样本集中内构建全连接的时序模糊认知图网络;
步骤D,根据预置的迭代次数,使用批量梯度下降法对初始化后的权值函数进行优化,用损失函数度量每次优化后的权值函数的误差;
步骤E,选取使得损失函数最小的权值函数,构建最优时序模糊认知图网络,所述最优时序模糊认知图表示所述样本数据中每个节点在不同时间段内的互相影响;
步骤F,利用所述预测样本集对所述最优时序模糊认知图进行验证。
2.如权利要求1所述的学习方法,其特征在于,所述步骤A包括:
步骤A1,从预置的数据源获取初始样本数据;
步骤A2,对所述初始样本数据进行包括特征提取、归一化的预处理,得到所述样本数据,所述样本数据表示各个特征在每个时刻的值。
3.如权利要求1所述的学习方法,其特征在于,所述步骤B包括:
步骤B1,对所述样本数据使用滑窗法,生成大小相同的若干样本组;
步骤B2,将若干所述样本组划分为训练样本集和测试样本集。
4.如权利要求1所述的学习方法,其特征在于,所述样本组内,第s时刻每个节点与前s-1个时刻所有节点均有边连接,所述步骤C包括:
步骤C1,使用基于时序的皮尔逊相关系数初始化每条边的权值函数,得到权值函数集合,所述皮尔逊相关系数为:
X={x1,x2,…,xn}和Y={x1,x2,…,xn}表示变量,Corr(Xj,Xi,t')表示Xj(t)与经过t'时间之后的Xi(t+t')之间的相关程度,i,j表示特征,Xj表示数据的第j各特征;
步骤C2,根据所述权值函数集合在所述训练集样本集中的每个样本组内构造全连接的时序模糊认知图网络。
5.如权利要求4所述的学习方法,其特征在于,所述步骤D包括:
步骤D1,根据所述权值函数集合,基于模糊认知图FCM的原理及时序特性,利用sigmod函数计算得到初始预测值;
步骤D2,根据所述初始预测值,使用均方差作为损失函数:
对于样本l的节点Ci的误差为:则对于有n个节点的样本l,其误差为:因此,所有样本的误差为:
步骤D3,使用批量梯度下降法对权值进行优化:
将节点Ci的损失函数关于一个权值函数求导,得到:
对权值函数进行迭代更新,其增量为:其中γ为设定的学习率,在迭代过程中存在由大到小的三个阶段变化;
步骤D4,通过剪枝操作进行权值优化,以降低参数空间的维度,减少过拟合,得到迭代后的权值函数:
在整个时间段内节点Cj对需要预测的节点Ci的影响fij(t')总是小于预设阈值,则删除所有时刻节点Cj与节点Ci之间的边,剪枝操作随着学习率γ的变化,只进行三次;
步骤D5,进行下一次迭代,直到迭代次数达到预置的迭代次数,得到一组使得损失函数最小的最优权值函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳大学,未经深圳大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810592605.2/1.html,转载请声明来源钻瓜专利网。