[发明专利]一种基于自监督学习和主动学习的数据标注方法及装置

说明书

本发明公开了一种基于自监督学习和主动学习的数据标注方法及装置，所述方法，获取未标注时序数据集并生成初始标注数据集；基于自监督学习对未标注时序数据集进行训练得到预训练骨干网络，并基于主动学习算法得到主动学习模型；重复执行更新第一标注数据集的操作，直至当前周期数与预设周期数相同，生成最终的第一标注数据集；在每一周期内都根据预训练骨干网络与上一个周期输出的第一标注数据集对数据采样器进行微调，使得微调后的数据采样器能根据数据分布特征进行选取时序数据进行标注，即本发明通过自监督学习算法与主动学习算法的相结合，使得最后基于主动学习可以选取更具代表性的标注样本，提高了主动学习算法的标注性能。

技术领域

本发明涉及主动学习的数据标注技术领域，尤其涉及一种基于自监督学习和主动学习的数据标注方法及装置。

背景技术

标注时间序列数据是一项劳动密集型的活动，并且有可能产生较大的标注成本。而采用主动学习的技术算法可以减少标注成本，主动学习主要从未标注的数据中选取对于深度学习最有用的样本进行标注。按照采样方式进行分类，主动学习可以分为基于不确定性和基于代表性两种学习方式。而基于不确定的主动学习主要是在挑选的过程中使用算法选取最不确定的样本，将其放到标注数据池中来提高深度学习模型的性能，基于代表性的主动学习主要通过预定义的特征空间距离从未标注数据中选取能代表数据分布的数据。无论是哪种学习方式的主动学习，在根据数据训练得到分类器的阶段并没有充分利用未标注数据的分布特征来对分类器进行训练，从而使得采用主动学习的算法时，并在采用分类器选取标注样本时不能根据数据分布特征进行选取标注样本，导致最终输出的标注样本代表性不高，使得主动学习的标注性能较低。

发明内容

本发明实施例提供一种基于自监督学习和主动学习的数据标注方法及装置，能有效解决现有技术中输出的标注样本代表性不高，使得主动学习的标注性能较低的问题。

本发明一实施例提供一种基于自监督学习和主动学习的数据标注方法，包括：

获取未标注时序数据集，并生成初始标注数据集；其中，所述初始标注数据集为空；

基于自监督学习算法对所述未标注时序数据集进行训练得到预训练骨干网络，并基于主动学习算法对所述未标注时序数据集进行训练得到主动学习模型；所述主动学习模型包括主动学习骨干网络和数据采样器；

基于主动学习算法，采用所述数据采样器从所述未标注时序数据集选取若干时序数据并进行标注，并将完成标注的时序数据添加到所述初始标注数据集中形成第一标注数据集；

重复执行如下更新第一标注数据集的操作，直至当前周期数与预设周期数相同，生成最终的第一标注数据集：

获取当前周期数；

基于主动学习算法，根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调得到当前周期的数据采样器；

基于主动学习算法，通过当前周期的数据采样器从未标注时序数据集中选取若干时序数据并进行标注，并将完成标注的时序数据输入至第一标注数据集中得到更新后的第一标注数据集；

将当前周期数加上预设周期数增量后得到更新后的周期数。

优选地，所述基于主动学习算法，根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调得到当前周期的数据采样器，具体包括：

将基于主动学习算法对所述未标注时序数据集进行训练得到的主动学习模型的主动学习骨干网络进行冻结；

将所述预训练骨干网络替代所述主动学习骨干网络，并基于主动学习算法，根据所述第一标注数据集对前一周期的数据采样器进行微调得到当前周期的数据采样器。

优选地，在根据所述预训练骨干网络与所述第一标注数据集对前一周期的主动学习模型中的数据采样器进行微调时，还包括：