[发明专利]一种文本分类方法和装置在审
| 申请号: | 202010542761.5 | 申请日: | 2020-06-15 |
| 公开(公告)号: | CN113761181A | 公开(公告)日: | 2021-12-07 |
| 发明(设计)人: | 陈生泰;刘洋 | 申请(专利权)人: | 北京京东振世信息技术有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35 |
| 代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;韩黎捷 |
| 地址: | 100086 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,包括:
根据第一系统的第一训练文本及所述第一训练文本的类别标签训练预设的初始分类模型,得到文本分类模型;
根据所述第一训练文本及其类别标签、第二系统的第二训练文本训练所述文本分类模型,得到预测模型;
将所述第二系统的预测样本输入所述预测模型,得到所述预测样本的类别标签。
2.如权利要求1所述的方法,其特征在于,
所述根据所述第一训练文本及其类别标签、第二系统的第二训练文本训练所述文本分类模型,得到预测模型,包括:
根据经过k-1次训练的文本分类模型,确定所述第二训练文本第k次分类的类别标签;
根据所述第一训练文本及其类别标签、所述第二训练文本及第二训练文本第k次分类的类别标签训练经过k-1次训练的文本分类模型;
根据经过k次训练的文本分类模型,确定所述第二训练文本第k+1次分类的类别标签;
确定第二训练文本第k次和第k+1次分类的类别标签是否满足预设的相似条件,如果是,确定经过k次训练的文本分类模型为所述预测模型,否则,将k更新为k+1后执行所述根据经过k-1次训练的文本分类模型,确定所述第二训练文本第k次分类的类别标签;
其中,k为大于0的整数。
3.如权利要求2所述的方法,其特征在于,
所述相似条件,包括:第二训练文本第k次和第k+1次分类的类别标签的重合率大于相似阈值。
4.如权利要求1所述的方法,其特征在于,
所述初始分类模型,包括:基于Transformer的双向编码器表征BERT模型和全连接层。
5.如权利要求1所述的方法,其特征在于,进一步包括:
确定超参数;其中,所述超参数用于控制所述第一训练文本和所述第二训练文本对损失值的影响程度;
根据所述超参数,确定所述损失函数;
所述根据所述第一训练文本及其类别标签、所述第二训练文本及第二训练文本第k次分类的类别标签训练经过k-1次训练的文本分类模型,包括:
根据所述损失函数、所述第一训练文本及其类别标签、所述第二训练文本及其第k次分类的类别标签训练经过k-1次训练的文本分类模型。
6.如权利要求5所述的方法,其特征在于,进一步包括:
确定验证文本;
根据所述验证文本确定所述超参数对应的分类准确率;
根据所述分类准确率调整所述超参数。
7.一种文本分类装置,其特征在于,包括:
第一训练模块,配置为根据第一系统的第一训练文本及所述第一训练文本的类别标签训练预设的初始分类模型,得到文本分类模型;
第二训练模块,配置为根据所述第一训练文本及其类别标签、第二系统的第二训练文本训练所述文本分类模型,得到预测模型;
预测模块,配置为将所述第二系统的预测样本输入所述预测模型,得到所述预测样本的类别标签。
8.如权利要求1所述的装置,其特征在于,
所述第二训练模块,配置为根据经过k-1次训练的文本分类模型,确定所述第二训练文本第k次分类的类别标签;根据所述第一训练文本及其类别标签、所述第二训练文本及第二训练文本第k次分类的类别标签训练经过k-1次训练的文本分类模型;根据经过k次训练的文本分类模型,确定所述第二训练文本第k+1次分类的类别标签;确定第二训练文本第k次和第k+1次分类的类别标签是否满足预设的相似条件,如果是,确定经过k次训练的文本分类模型为所述预测模型,否则,将k更新为k+1后执行所述根据经过k-1次训练的文本分类模型,确定所述第二训练文本第k次分类的类别标签;
其中,k为大于0的整数。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东振世信息技术有限公司,未经北京京东振世信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010542761.5/1.html,转载请声明来源钻瓜专利网。





