[发明专利]一种基于深度学习复合模型的长文本分类方法在审
申请号: | 202110971097.0 | 申请日: | 2021-08-23 |
公开(公告)号: | CN113672734A | 公开(公告)日: | 2021-11-19 |
发明(设计)人: | 倪显虎 | 申请(专利权)人: | 倪显虎 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62;G06N3/04 |
代理公司: | 广东有知猫知识产权代理有限公司 44681 | 代理人: | 金福坤 |
地址: | 230601 安徽省*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 深度 学习 复合 模型 文本 分类 方法 | ||
1.一种基于深度学习复合模型的长文本分类方法,其特征在于:该方法包括:
根据长文本的分段格式提取长文本的标题内容与正文内容;
分别对标题内容及正文内容进行预处理,所述预处理包括分词、词性标注与去停用词;
将预处理后的标题内容输入至经过训练的短文本分类模型,得到用于表征标题内容的类别的标签A;
将预处理后的正文内容输入至经过训练的长文本分类模型,得到用于表征正文内容的类别的若干个标签B;
将若干个标签B分别与标签A进行对比,判断两者间的关联程度;
根据关联程度的由高至低对标签B进行分级排序。
2.根据权利要求1所述的一种基于深度学习复合模型的长文本分类方法,其特征在于:所述预处理采用预先建立的基于字符串的词典表进行,使用jieba对文本内容进行分词,在分词过程中判断词性,并进行相应的词性标注。
3.根据权利要求2所述的一种基于深度学习复合模型的长文本分类方法,其特征在于:在词典表内建立停用词字典,在完成词性标注后,对照停用词字典对文本中包含的停用词进行删除。
4.根据权利要求1所述的一种基于深度学习复合模型的长文本分类方法,其特征在于:所述短文本分类模型通过将一个单词wi经过双向RNN得到cl(wi),cr(wi),其中,cl(wi),cr(wi)分别保存了单词wi的上下文,接着将cl(wi),cr(wi)与wi对应的词向量拼接在一起得到xi,将xi经过一个全连接网络得到yi,将yi经max-pooling处理后输出标签A。
5.根据权利要求1所述的一种基于深度学习复合模型的长文本分类方法,其特征在于:所述长文本分类模型通过通过attention机制将一句话合成为一个向量si,之后再次通过attention机制将长文本中每段文字的所有句子合成为一个向量v,再接一个全连接层对每个v进行预测,并输出对应的用于表征正文内容的类别的若干个标签B。
6.根据权利要求5所述的一种基于深度学习复合模型的长文本分类方法,其特征在于:长文本分类模型在合词成句时,首先使用一个双层的GRU获得第i个句子第t个单词的隐含表示hit;接下来,hit首先经过全连接层生成uit,然后计算uit与向量uw的相似度/alphait,通过相似度/alphait和hit得到句子的加权表示,其中,uw是网络中可学习的参数,用以衡量单词对分类任务的重要程度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于倪显虎,未经倪显虎许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110971097.0/1.html,转载请声明来源钻瓜专利网。