[发明专利]一种文本增强方法、文本分类方法及相关装置有效
| 申请号: | 202110311001.8 | 申请日: | 2021-03-23 |
| 公开(公告)号: | CN112906392B | 公开(公告)日: | 2022-04-01 |
| 发明(设计)人: | 陈龙;王炜;江军 | 申请(专利权)人: | 北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司 |
| 主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/216;G06F40/30;G06F16/35;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 余菲 |
| 地址: | 100000 北京*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 增强 方法 分类 相关 装置 | ||
1.一种文本增强方法,其特征在于,包括:
获得文本语料中的语句内容,并对所述语句内容进行分词,获得分词后的词语;
从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语,并使用所述相似词语对所述语句内容进行随机替换,获得多个语句;
使用所述多个语句训练生成对抗网络,获得生成对抗网络模型;
使用所述生成对抗网络模型生成扩充语句样本;
将所述扩充语句样本与所述文本语料中的语句内容结合,获得增强的文本数据集;
其中,所述从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语,包括:对所述分词后的词语进行向量化计算,获得分词向量;在所述概念树中筛选出与所述分词向量的关联度超过阈值的词语向量,并获取所述词语向量对应的相似词语;
在所述从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语之前,还包括:获取多个词语;对所述多个词语的每个词语进行向量化计算,获得多个特征向量;计算所述多个特征向量中的每两个特征向量之间的关联度,并根据该关联度构建所述概念树。
2.根据权利要求1所述的方法,其特征在于,所述对所述多个词语的每个词语进行向量化计算,包括:
获取训练后的双TriNet模型;
使用所述训练后的双TriNet模型对所述多个词语的每个词语进行向量化计算。
3.根据权利要求1所述的方法,其特征在于,所述对所述多个词语的每个词语进行向量化计算,包括:
获取预训练语言模型,并利用所述预训练语言模型对所述多个词语的每个词语进行向量化计算。
4.一种文本分类方法,其特征在于,包括:
使用如权利要求1-3中任一项所述的方法获得增强的文本数据集;
使用增强的文本数据集训练神经网络,获得神经网络模型;
使用所述神经网络模型对待分类文本语料进行分类,获得分类结果。
5.一种文本增强装置,其特征在于,包括:
语句内容分词模块,用于获得文本语料中的语句内容,并对所述语句内容进行分词,获得分词后的词语;
语句内容替换模块,用于从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语,并使用所述相似词语对所述语句内容进行随机替换,获得多个语句;
网络模型获得模块,用于使用所述多个语句训练生成对抗网络,获得生成对抗网络模型;
语句样本扩充模块,用于使用所述生成对抗网络模型生成扩充语句样本;
文本数据增强模块,用于将所述扩充语句样本与所述文本语料中的语句内容结合,获得增强的文本数据集;
其中,所述从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语,包括:对所述分词后的词语进行向量化计算,获得分词向量;在所述概念树中筛选出与所述分词向量的关联度超过阈值的词语向量,并获取所述词语向量对应的相似词语;
在所述从概念树中筛选出与所述分词后的词语中相似度超过阈值的相似词语之前,还包括:获取多个词语;对所述多个词语的每个词语进行向量化计算,获得多个特征向量;计算所述多个特征向量中的每两个特征向量之间的关联度,并根据该关联度构建所述概念树。
6.一种文本分类装置,其特征在于,包括:
文本数据获得模块,用于使用如权利要求1-3中任一项所述的方法获得增强的文本数据集;
网络模型获得模块,用于使用增强的文本数据集训练神经网络,获得神经网络模型;
分类结果获得模块,用于使用所述神经网络模型对待分类文本语料进行分类,获得分类结果。
7.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述机器可读指令被所述处理器执行时执行如权利要求1至4任一所述的方法。
8.一种存储介质,其特征在于,该存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至4任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司,未经北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110311001.8/1.html,转载请声明来源钻瓜专利网。





