[发明专利]一种基于自监督学习和主动学习的数据标注方法及装置在审
申请号: | 202310208192.4 | 申请日: | 2023-03-06 |
公开(公告)号: | CN116304696A | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 许慧青;陈旭;肖思恒 | 申请(专利权)人: | 广东能源集团科学技术研究院有限公司 |
主分类号: | G06F18/214 | 分类号: | G06F18/214;G06F18/24;G06N3/0464;G06N3/0895;G06N3/091 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 吕金金 |
地址: | 510630 广东省广州市南沙区丰泽*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 监督 学习 主动 数据 标注 方法 装置 | ||
1.一种基于自监督学习和主动学习的数据标注方法,其特征在于,包括:
获取未标注时序数据集,并生成初始标注数据集;其中,所述初始标注数据集为空;
基于自监督学习算法对所述未标注时序数据集进行训练得到预训练骨干网络,并基于主动学习算法对所述未标注时序数据集进行训练得到主动学习模型;所述主动学习模型包括主动学习骨干网络和数据采样器;
基于主动学习算法,采用所述数据采样器从所述未标注时序数据集选取若干时序数据并进行标注,并将完成标注的时序数据添加到所述初始标注数据集中形成第一标注数据集;
重复执行如下更新第一标注数据集的操作,直至当前周期数与预设周期数相同,生成最终的第一标注数据集:
获取当前周期数;
基于主动学习算法,根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调得到当前周期的数据采样器;
基于主动学习算法,通过当前周期的数据采样器从未标注时序数据集中选取若干时序数据并进行标注,并将完成标注的时序数据输入至第一标注数据集中得到更新后的第一标注数据集;
将当前周期数加上预设周期数增量后得到更新后的周期数。
2.如权利要求1所述的一种基于自监督学习和主动学习的数据标注方法,其特征在于,所述基于主动学习算法,根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调得到当前周期的数据采样器,具体包括:
将基于主动学习算法对所述未标注时序数据集进行训练得到的主动学习模型的主动学习骨干网络进行冻结;
将所述预训练骨干网络替代所述主动学习骨干网络,并基于主动学习算法,根据所述第一标注数据集对前一周期的数据采样器进行微调得到当前周期的数据采样器。
3.如权利要求1所述的一种基于自监督学习和主动学习的数据标注方法,其特征在于,在根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调时,还包括:
所述主动学习模型还包括分类器或回归器;
根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的分类器或回归器进行微调得到当前周期的分类器或回归器。
4.如权利要求1所述的一种基于自监督学习和主动学习的数据标注方法,其特征在于,在重复执行更新第一标注数据集的操作之前,还包括:
基于自监督学习算法,从未标注时序数据集中提取若干趋势特征表示和若干周期特征表示;
根据所述若干趋势特征表示生成第一对比损失函数,并根据所述若干周期特征表示生成第二对比损失函数;
根据所述第一对比损失函数和所述第二对比损失函数对预训练骨干网络的参数进行更新。
5.如权利要求4所述的一种基于自监督学习和主动学习的数据标注方法,其特征在于,所述从未标注时序数据集中提取若干趋势特征表示和若干周期特征表示,具体包括:
将未标注时序数据集映射到隐变量空间;
基于自监督学习算法,采用趋势特征解耦器从所述隐变量空间提取若干趋势特征表示;
基于自监督学习算法,采用周期特征解耦器从所述隐变量空间提取若干周期特征表示。
6.如权利要求4所述的一种基于自监督学习和主动学习的数据标注方法,其特征在于,所述第一对比损失函数的公式如下所示:
其中,Ltime为第一对比损失函数,N为样本的数量,q为查询项的趋势特征表示,k+为查询项对应正样本的趋势特征表示,k为查询项对应负样本的趋势特征表示,M为从队列字典中采样的负样本的数量,τ为预设频率值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东能源集团科学技术研究院有限公司,未经广东能源集团科学技术研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310208192.4/1.html,转载请声明来源钻瓜专利网。