[发明专利]文本摘要提取方法、装置、电子设备及存储介质在审
| 申请号: | 202011435074.X | 申请日: | 2020-12-10 |
| 公开(公告)号: | CN112528013A | 公开(公告)日: | 2021-03-19 |
| 发明(设计)人: | 陈军;庄伯金;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06F16/34 | 分类号: | G06F16/34;G06F40/205 |
| 代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
| 地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 摘要 提取 方法 装置 电子设备 存储 介质 | ||
1.一种文本摘要提取方法,其特征在于,所述方法包括:
在预构建的Bert模型中添加奇偶句编码层,得到编码器;
从预接收的transformer模型中提取解码器,组合所述编码器和所述解码器,得到待训练文本摘要提取模型;
接收训练文本集,对所述训练文本集执行分句操作,得到训练语段集;
接收用户在所述训练语段集中添加的特征提取标识符;
利用所述训练语段集及所述特征提取标识符,训练所述待训练文本摘要提取模型,得到文本摘要提取模型;
接收摘要待提取文本,将所述摘要待提取文本输入至所述文本摘要提取模型,得到文本摘要。
2.如权利要求1所述的文本摘要提取方法,其特征在于,所述利用所述训练语段集及所述特征提取标识符,训练所述待训练文本摘要提取模型,得到文本摘要提取模型,包括:
步骤A:利用所述特征提取标识符,将所述训练语段集分为待遮蔽训练语段集及非遮蔽训练语段集,将所述待遮蔽训练语段集执行遮蔽操作,得到遮蔽训练语段集;
步骤B:接收用户设定的编码器学习率、解码器学习率及训练周期,将所述遮蔽训练语段集及所述非遮蔽训练语段集输入至所述待训练文本摘要提取模型中;
步骤C:利用所述编码器及所述编码器学习率,对所述遮蔽训练语段集及所述非遮蔽训练语段集执行特征提取,得到语段特征集;
步骤D:利用所述解码器及所述解码器学习率,预测所述语段特征集对应的文本摘要集;
步骤E:利用所述文本摘要集及预构建的优化算法,优化所述待训练文本摘要提取模型的内部参数,并记录优化次数;
步骤F:判断所述优化次数与所述训练周期的大小关系,若所述优化次数小于或等于所述训练周期,返回步骤C;
步骤G:若所述优化次数大于所述训练周期,得到所述文本摘要提取模型。
3.如权利要求1所述的文本摘要提取方法,其特征在于,所述在预构建的Bert模型中添加奇偶句编码层,得到编码器,包括:
在所述Bert模型中的前馈反向层后,添加所述奇偶句编码层,得到所述编码器。
4.如权利要求3所述的文本摘要提取方法,其特征在于,所述利用所述编码器及所述编码器学习率,对所述遮蔽训练语段集及所述非遮蔽训练语段集执行特征提取,得到语段特征集,包括:
将所述遮蔽训练语段集及所述非遮蔽训练语段集,按照在所述训练文本集的语句顺序,整合得到半遮蔽训练语段集;
利用所述Bert模型并结合所述编码器学习率,对所述半遮蔽训练语段集执行特征提取,得到待分类语段特征集;
利用所述奇偶句编码层,对所述待分类语段特征集执行语段奇偶分类并继续执行特征提取,得到所述语段特征集。
5.如权利要求2所述的文本摘要提取方法,其特征在于,所述利用所述特征提取标识符,将所述训练语段集分为待遮蔽训练语段集及非遮蔽训练语段集,包括:
从所述训练语段集中提取包括所述特征提取标识符的训练语段,组合得到所述待遮蔽训练语段集;
从所述训练语段集中提取不包括所述特征提取标识符的训练语段,组合得到所述非遮蔽训练语段集。
6.如权利要求1所述的文本摘要提取方法,其特征在于,所述组合所述编码器和所述解码器,得到待训练文本摘要提取模型,包括:
将所述编码器在先,所述解码器在后,连接得到所述待训练文本摘要提取模型。
7.如权利要求1至6中任意一项所述的文本摘要提取方法,其特征在于,所述接收训练文本集,之后包括:
遍历所述训练文本集中每个训练文本,将所述训练文本拆分为正文文本和摘要文本;
分别判断所述正文文本和所述摘要文本是否满足预设字数要求,若所述正文文本和所述摘要文本有任意一个不满足所述预设字数要求,去除所述正文文本和所述摘要文本对应的训练文本,直至遍历完成得到清洗后的训练文本集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011435074.X/1.html,转载请声明来源钻瓜专利网。





