[发明专利]基于隐式相关性反馈来提供QA训练数据以及训练QA模型在审

专利信息
申请号: 202010046175.1 申请日: 2020-01-16
公开(公告)号: CN113127614A 公开(公告)日: 2021-07-16
发明(设计)人: 公明;寿林钧;程飞翔;姜大昕 申请(专利权)人: 微软技术许可有限责任公司
主分类号: G06F16/332 分类号: G06F16/332;G06F16/335;G06F16/9532;G06F16/9535
代理公司: 永新专利商标代理有限公司 72002 代理人: 张立达
地址: 美国华*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 相关性 反馈 提供 qa 训练 数据 以及 模型
【权利要求书】:

1.一种用于基于隐式相关性反馈来提供问题回答(QA)训练数据的方法,包括:

从搜索日志中获得问题-文段对以及对应的用户行为;

从所述用户行为中提取行为特征;

通过隐式相关性反馈模型,基于所述行为特征来确定所述问题与所述文段之间的相关性分数;以及

基于所述相关性分数,向所述问题-文段对添加相关性标记。

2.如权利要求1所述的方法,其中,

所述用户行为包括以下至少一种类型;点击行为类型、重查询行为类型、以及浏览行为类型。

3.如权利要求1所述的方法,其中,所述获得用户行为包括:

获得与所述问题-文段对的多个展示分别对应的多组用户行为。

4.如权利要求3所述的方法,其中,所述提取行为特征包括:

从与所述多个展示中的每个展示对应的一组用户行为中提取对应于该展示的原始行为特征。

5.如权利要求4所述的方法,其中,所述确定相关性分数包括:

对于所述多个展示中的每个展示,通过所述隐式相关性反馈模型,基于对应于该展示的原始行为特征,确定所述问题与所述文段之间的、对应于该展示的初始相关性分数。

6.如权利要求5所述的方法,其中,所述确定相关性分数还包括:

将对应于所述多个展示的多个初始相关性分数组合成所述相关性分数。

7.如权利要求5所述的方法,其中,所述添加相关性标记包括:

对于所述多个展示中的每个展示,基于对应于该展示的初始相关性分数,确定对应于该展示的初始相关性标记;以及

将对应于所述多个展示的多个初始相关性标记组合成所述相关性标记。

8.如权利要求3所述的方法,其中,所述提取行为特征包括:

从所述多组用户行为中提取聚合行为特征。

9.如权利要求8所述的方法,其中,所述确定相关性分数包括:

通过所述隐式相关性反馈模型,基于所述聚合行为特征来确定所述问题与所述文段之间的相关性分数。

10.如权利要求3所述的方法,其中,

所述多个展示中的每个展示包括以下至少之一:所述文段、所述文段的源页面链接、所述文段的扩展选项、相关问题、以及网页链接。

11.如权利要求1所述的方法,还包括:

将所述问题-文段对和所述相关性标记作为一个QA训练数据实例,添加到QA训练数据集中。

12.如权利要求1所述的方法,其中,

所述相关性标记是基于所述相关性分数而生成的布尔值。

13.一种用于基于隐式相关性反馈来训练问题回答(QA)模型的方法,包括:

获得自动标记的训练数据集,所述自动标记的训练数据集中的每个训练数据实例包括问题-文段对和相关性标记,所述相关性标记是至少通过隐式相关性反馈模型、基于与所述问题-文段对相对应的用户行为而生成的;

利用所述自动标记的训练数据集,以弱监督方式对所述QA模型进行预训练;以及

利用人为标记的训练数据集,对所述QA模型进行精调。

14.如权利要求13所述的方法,其中,

所述隐式相关性反馈模型用于:基于从所述用户行为中提取的行为特征来确定所述问题与所述文段之间的相关性分数,并且

所述相关性标记是基于所述相关性分数而生成的。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010046175.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top