[发明专利]对话语篇分析及模型训练方法、电子设备及存储介质在审
申请号: | 202210641346.4 | 申请日: | 2022-06-08 |
公开(公告)号: | CN114997182A | 公开(公告)日: | 2022-09-02 |
发明(设计)人: | 刘澈;王睿;李永彬 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F40/35 | 分类号: | G06F40/35;G06K9/62 |
代理公司: | 北京合智同创知识产权代理有限公司 11545 | 代理人: | 李杰;兰淑铎 |
地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 话语 分析 模型 训练 方法 电子设备 存储 介质 | ||
1.一种对话语篇分析方法,包括:
获取待进行对话语篇分析的多轮对话;
通过预先训练完成的对话语篇分析模型对所述多轮对话进行对话语篇分析,其中,所述对话语篇分析模型为基于对对话样本中部分轮次对话掩码后进行自监督训练获得,所述对话样本为包含多轮对话的样本;
根据所述对话语篇分析模型的输出,获得所述多轮对话之间的对话语篇分析结果。
2.根据权利要求1所述的方法,其中,所述通过预先训练完成的对话语篇分析模型对所述多轮对话进行对话语篇分析,包括:
获得所述多轮对话对应的第一对话特征向量;
将所述第一对话特征向量输入预先训练完成的对话语篇分析模型,通过所述对话语篇分析模型对所述第一对话特征向量中与某轮次对话对应的对话特征向量进行掩码处理,并对掩码处理后的对话特征向量进行特征提取,获得对应的第二对话特征向量;
计算所述第二对话特征向量中,未进行掩码处理的各轮次对话与所述第一对话特征向量中相对应的各轮次对话之间的相似度;
根据所述相似度,输出进行掩码处理的某轮次对话与未进行掩码处理的各轮次对话之间的关联强度信息。
3.根据权利要求2所述的方法,其中,所述根据所述对话语篇分析模型的输出,获得所述多轮对话之间的对话语篇分析结果,包括:
根据预设的关联强度阈值,对所述对话语篇分析模型输出的所述关联强度信息进行过滤处理;
根据过滤处理结果,获得与进行掩码处理的某轮次对话的关联强度大于所述关联强度阈值的其它轮次对话,其中,所述其它轮次对话为未进行掩码处理的轮次对话中的部分轮次对话;
根据所述某轮次对话和所述其它轮次对话之间的关联强度信息,获得所述多轮对话之间的对话语篇分析结果。
4.根据权利要求2所述的方法,其中,
所述获得所述多轮对话对应的第一对话特征向量,包括:对所述多轮对话中的各轮次对话分别进行编码,获得对应的特征编码向量;按照各轮次对话之间的时序,将各轮次对话对应的特征编码向量叠加为特征矩阵;
所述通过预先训练完成的对话语篇分析模型对所述多轮对话进行对话语篇分析,包括:通过预先训练完成的对话语篇分析模型,基于所述特征矩阵对所述多轮对话进行对话语篇分析。
5.一种对话语篇分析模型训练方法,包括:
获取用于进行对话语篇分析训练的对话样本,所述对话样本中包含多轮对话;
获得所述多轮对话对应的第一特征向量,并将所述第一特征向量输入待训练的对话语篇分析模型;
通过所述对话语篇分析模型对所述第一特征向量中的部分向量进行掩码处理,并对掩码处理后的第一特征向量进行编码,生成对应的第二特征向量;
根据所述第二特征向量和所述第一特征向量的差异,对所述对话语篇分析模型进行自监督学习训练。
6.根据权利要求5所述的方法,其中,所述获得所述多轮对话对应的第一特征向量,并将所述第一特征向量输入待训练的对话语篇分析模型,包括:
对所述多轮对话中的各轮次对话分别进行编码生成对应的第一特征编码向量,并按照各轮次对话之间的时序将各轮次对话对应的第一特征编码向量叠加生成特征矩阵;
将所述特征矩阵输入待训练的所述对话语篇分析模型。
7.根据权利要求6所述的方法,其中,所述通过所述对话语篇分析模型对所述第一特征向量中的部分向量进行掩码处理,并对掩码处理后的第一特征向量进行编码,生成对应的第二特征向量,包括:
通过所述对话语篇分析模型对所述特征矩阵中的部分轮次对话对应的第一特征编码向量进行掩码处理,并对掩码处理后的特征矩阵进行编码,生成对应的第二特征编码向量。
8.根据权利要求7所述的方法,其中,所述根据所述第二特征向量和所述第一特征向量的差异,对所述对话语篇分析模型进行自监督学习训练,包括:;
根据各轮次对话对应的第一特征编码向量和第二特征编码向量的差异,对所述对话语篇分析模型进行自监督学习训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210641346.4/1.html,转载请声明来源钻瓜专利网。