[发明专利]对话篇章解析方法有效
申请号: | 202110692574.X | 申请日: | 2021-06-22 |
公开(公告)号: | CN113377915B | 公开(公告)日: | 2022-07-19 |
发明(设计)人: | 苏劲松;王安特;曾华琳 | 申请(专利权)人: | 厦门大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 厦门创象知识产权代理有限公司 35232 | 代理人: | 尤怀成 |
地址: | 361000 *** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 对话 篇章 解析 方法 | ||
本发明公开了一种对话篇章解析方法、介质和设备,其中方法包括:获取历史对话信息,并对历史对话信息进行预处理,以生成初始训练样本;根据初始训练样本生成第一训练样本和第二训练样本;根据第一训练样本进行模型训练,以得到结构自感知教师模型;根据第二训练样本进行模型训练,以得到结构自感知学生模型,并拉近结构自感知教师模型的结构关系和结构自感知学生模型的结构关系,以得到最终结构自感知学生模型;获取待解析对话信息,并将待解析对话信息输入到最终结构自感知学生模型,以生成对应待解析对话信息的对话轮次间篇章关系;能够自动对对话信息进行解析,避免因引入显式预测结果而导致的错误传播;同时,提高篇章解析效果。
技术领域
本发明涉及自然语言处理技术领域,特别涉及一种对话篇章解析方法、一种计算机可读存储介质和一种计算机设备。
背景技术
相关技术中,在对对话篇章进行解析时;多采用编码器学习每轮对话表示,再通过拼接或者相加等方法,以预测两轮对话之间的篇章关系,并没有对篇章结构关系在模型中进行直接的建模;此外,相关技术引入显式历史轮次预测结果辅助当前轮次篇章关系预测的方式,存在错误传播问题,最终篇章解析效果不佳。
发明内容
本发明旨在至少在一定程度上解决上述技术中的技术问题之一。为此,本发明的一个目的在于提出一种对话篇章解析方法,能够自动对对话信息进行解析,直接在模型中对篇章结构关系进行建模并避免因引入显式预测结果而导致的错误传播;同时,提高篇章解析效果。
本发明的第二个目的在于提出一种计算机可读存储介质。
本发明的第三个目的在于提出一种计算机设备。
为达到上述目的,本发明第一方面实施例提出了一种对话篇章解析方法,包括以下步骤:获取历史对话信息,并对所述历史对话信息进行预处理,以生成初始训练样本,其中,所述初始训练样本包括每轮对话文本信息、每轮对话对话者身份信息和对话篇章结构标签;根据所述初始训练样本生成第一训练样本和第二训练样本,其中,所述第一训练样本包括每轮对话文本信息、每轮对话对话者身份信息和除当前待预测结构关系的其他结构关系,所述第二训练样本包括每轮对话文本信息和每轮对话对话者身份信息;根据所述第一训练样本进行模型训练,以得到结构自感知教师模型,其中,所述结构自感知教师模型的损失函数包括第一对话篇章解析损失函数;根据所述第二训练样本进行模型训练,以得到结构自感知学生模型,并通过所述结构自感知学生模型中的结构蒸馏损失函数拉近所述结构自感知教师模型的结构关系和所述结构自感知学生模型的结构关系,以得到最终结构自感知学生模型,其中,所述结构自感知学生模型的损失函数包括第二对话篇章解析损失函数、关系标签识别损失函数和结构蒸馏损失函数;获取待解析对话信息,并将所述待解析对话信息输入到所述最终结构自感知学生模型,以通过所述结构自感知学生模型对所述待解析对话信息进行自动解析,生成对应所述待解析对话信息的对话轮次间篇章关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门大学,未经厦门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110692574.X/2.html,转载请声明来源钻瓜专利网。