[发明专利]基于隐式相关性反馈来提供QA训练数据以及训练QA模型在审
申请号: | 202010046175.1 | 申请日: | 2020-01-16 |
公开(公告)号: | CN113127614A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 公明;寿林钧;程飞翔;姜大昕 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/335;G06F16/9532;G06F16/9535 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 张立达 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 相关性 反馈 提供 qa 训练 数据 以及 模型 | ||
1.一种用于基于隐式相关性反馈来提供问题回答(QA)训练数据的方法,包括:
从搜索日志中获得问题-文段对以及对应的用户行为;
从所述用户行为中提取行为特征;
通过隐式相关性反馈模型,基于所述行为特征来确定所述问题与所述文段之间的相关性分数;以及
基于所述相关性分数,向所述问题-文段对添加相关性标记。
2.如权利要求1所述的方法,其中,
所述用户行为包括以下至少一种类型;点击行为类型、重查询行为类型、以及浏览行为类型。
3.如权利要求1所述的方法,其中,所述获得用户行为包括:
获得与所述问题-文段对的多个展示分别对应的多组用户行为。
4.如权利要求3所述的方法,其中,所述提取行为特征包括:
从与所述多个展示中的每个展示对应的一组用户行为中提取对应于该展示的原始行为特征。
5.如权利要求4所述的方法,其中,所述确定相关性分数包括:
对于所述多个展示中的每个展示,通过所述隐式相关性反馈模型,基于对应于该展示的原始行为特征,确定所述问题与所述文段之间的、对应于该展示的初始相关性分数。
6.如权利要求5所述的方法,其中,所述确定相关性分数还包括:
将对应于所述多个展示的多个初始相关性分数组合成所述相关性分数。
7.如权利要求5所述的方法,其中,所述添加相关性标记包括:
对于所述多个展示中的每个展示,基于对应于该展示的初始相关性分数,确定对应于该展示的初始相关性标记;以及
将对应于所述多个展示的多个初始相关性标记组合成所述相关性标记。
8.如权利要求3所述的方法,其中,所述提取行为特征包括:
从所述多组用户行为中提取聚合行为特征。
9.如权利要求8所述的方法,其中,所述确定相关性分数包括:
通过所述隐式相关性反馈模型,基于所述聚合行为特征来确定所述问题与所述文段之间的相关性分数。
10.如权利要求3所述的方法,其中,
所述多个展示中的每个展示包括以下至少之一:所述文段、所述文段的源页面链接、所述文段的扩展选项、相关问题、以及网页链接。
11.如权利要求1所述的方法,还包括:
将所述问题-文段对和所述相关性标记作为一个QA训练数据实例,添加到QA训练数据集中。
12.如权利要求1所述的方法,其中,
所述相关性标记是基于所述相关性分数而生成的布尔值。
13.一种用于基于隐式相关性反馈来训练问题回答(QA)模型的方法,包括:
获得自动标记的训练数据集,所述自动标记的训练数据集中的每个训练数据实例包括问题-文段对和相关性标记,所述相关性标记是至少通过隐式相关性反馈模型、基于与所述问题-文段对相对应的用户行为而生成的;
利用所述自动标记的训练数据集,以弱监督方式对所述QA模型进行预训练;以及
利用人为标记的训练数据集,对所述QA模型进行精调。
14.如权利要求13所述的方法,其中,
所述隐式相关性反馈模型用于:基于从所述用户行为中提取的行为特征来确定所述问题与所述文段之间的相关性分数,并且
所述相关性标记是基于所述相关性分数而生成的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010046175.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:管路支撑装置、管路支撑组件以及航空发动机
- 下一篇:电容器