[发明专利]句向量模型生成、数据召回方法、装置、电子设备及存储介质在审
| 申请号: | 202111275899.4 | 申请日: | 2021-10-29 |
| 公开(公告)号: | CN114118057A | 公开(公告)日: | 2022-03-01 |
| 发明(设计)人: | 谢子哲;彭程 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
| 主分类号: | G06F40/211 | 分类号: | G06F40/211 |
| 代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;贾允 |
| 地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 向量 模型 生成 数据 召回 方法 装置 电子设备 存储 介质 | ||
1.一种句向量模型生成方法,其特征在于,包括:
从第一数量个样本问句组中分别获取第二数量个样本问句,得到样本问句集合,所述第一数量个样本问句组中同一样本问句组中包括具有相同语义的多个样本问句;
将所述样本问句集合输入待训练句向量模型进行句向量提取,得到所述样本问句集合中样本问句的句向量;
基于所述样本问句集合中样本问句的句向量,构建初始正样本对和初始负样本对;
对所述初始正样本对和所述初始负样本对进行过滤,得到目标正样本对和目标负样本对,所述目标正样本对为过滤掉简单样本后的正样本对,所述目标负样本对为过滤掉简单样本和/或噪声后的负样本对;
根据所述目标正样本对和所述目标负样本对,确定第一目标损失;
基于所述第一目标损失训练所述待训练句向量模型,得到句向量模型。
2.根据权利要求1所述的句向量模型生成方法,其特征在于,所述方法还包括:
从所述初始正样本对和初始负样本对中,确定简单样本对;
根据所述简单样本对,确定第二目标损失;
基于所述第二目标损失训练所述待训练句向量模型,得到初始句向量模型;
所述将所述样本问句集合输入待训练句向量模型进行句向量提取,得到所述样本问句集合中样本问句的句向量包括:将所述样本问句集合输入初始句向量模型进行句向量提取,得到所述样本问句集合中样本问句的句向量;
所述基于所述第一目标损失训练所述待训练句向量模型,得到句向量模型包括:基于所述第一目标损失训练所述初始句向量模型,得到所述句向量模型。
3.根据权利要求1所述的句向量模型生成方法,其特征在于,所述对所述初始正样本对和所述初始负样本对进行过滤,得到目标正样本对和目标负样本对包括:
对所述初始正样本对进行简单样本过滤,得到所述目标正样本对;
对所述初始负样本对进行简单样本过滤和/或噪声过滤,得到所述目标负样本对。
4.根据权利要求3所述的句向量模型生成方法,其特征在于,所述对所述初始正样本对进行简单样本过滤,得到所述目标正样本对包括:
确定所述初始正样本对中第一句向量和第二句向量间的第一相似度;
将所述第一相似度小于等于第一阈值且大于第二阈值的初始正样本对,作为所述目标正样本对;
其中,所述第一阈值为预设的非简单正样本对对应的相似度上限阈值,所述第二阈值为基于任一初始正样本对中第一句向量与对应的负例句向量间相似度的最大值确定的。
5.一种数据召回方法,其特征在于,包括:
响应于数据召回请求,基于如权利要求1至4任一所述句向量模型生成方法生成的句向量模型,确定所述数据召回请求中目标问句的目标句向量;
从预设句向量集合中,获取所述目标句向量的目标关联句向量,所述预设句向量集合为基于所述句向量模型,确定的预设问句集合中问句的句向量;
基于所述目标关联句向量,确定第一目标召回数据。
6.一种句向量模型生成装置,其特征在于,包括:
样本问句集合获取模块,被配置为执行从第一数量个样本问句组中分别获取第二数量个样本问句,得到样本问句集合,所述第一数量个样本问句组中同一样本问句组中包括具有相同语义的多个样本问句;
句向量提取模块,被配置为执行将所述样本问句集合输入待训练句向量模型进行句向量提取,得到所述样本问句集合中样本问句的句向量;
样本对构建模块,被配置为执行基于所述样本问句集合中样本问句的句向量,构建初始正样本对和初始负样本对;
样本对过滤模块,被配置为执行对所述初始正样本对和所述初始负样本对进行过滤,得到目标正样本对和目标负样本对,所述目标正样本对为过滤掉简单样本后的正样本对,所述目标负样本对为过滤掉简单样本和/或噪声后的负样本对;
第一目标损失确定模块,被配置为执行根据所述目标正样本对和所述目标负样本对,确定第一目标损失;
句向量模型训练模块,被配置为执行基于所述第一目标损失训练所述待训练句向量模型,得到句向量模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111275899.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





