[发明专利]检索模型的训练方法、装置、设备和计算机存储介质

说明书

本申请公开了一种检索模型的训练方法、装置、设备和计算机存储设备，涉及智能搜索和自然语言处理技术。具体实现方案为：获取初始训练数据；利用初始训练数据训练得到初始检索模型；利用初始检索模型从候选文本中选择与训练数据中的查询项的相关度满足预设第一要求的文本以更新该查询项对应的相关文本负例；利用更新后的训练数据训练得到第一检索模型；利用第一检索模型，从候选文本中选择与训练数据中的查询项的相关度满足预设第二要求的文本以扩充该查询项对应的相关文本正例，和/或，选择与该查询项的相关度满足预设第三要求的文本用以扩充相关文本负例；利用扩充后的训练数据训练得到第二检索模型。本申请能够降低对高质量训练数据的要求。

技术领域

本申请涉及计算机技术领域，特别涉及智能搜索和自然语言处理技术。

背景技术

在信息时代，人们希望从海量的文本中快速找到自己需要的信息，因此信息检索技术变得至关重要。随着深度神经网络的推广与发展，信息检索技术也发生着巨大变化，各种预训练语言模型作为检索模型被运用于信息检索领域中，带来了显著的效果提升。

在检索模型的训练过程中需要大量人工标注的训练数据，训练数据的数量和质量直接决定了检索模型的最终效果。然而高质量的训练数据是非常宝贵的，如何在保证模型效果的前提下，降低模型训练过程中对高质量训练数据的要求成为亟待解决的问题。

发明内容

有鉴于此，本申请提供了一种检索模型的训练方法、装置、设备和计算机存储介质，以便于在保证模型效果的前提下，降低模型训练过程中对高质量训练数据的要求。

第一方面，本申请提供了一种检索模型的训练方法，包括：

获取初始训练数据，所述初始训练数据包括查询项query以及该query对应的相关文本正例和相关文本负例；利用所述初始训练数据训练得到初始检索模型；

利用所述初始检索模型从候选文本中选择与训练数据中的query的相关度满足预设第一要求的文本以更新该query对应的相关文本负例；利用更新后的训练数据训练得到第一检索模型；

利用所述第一检索模型，从所述候选文本中选择与训练数据中的query的相关度满足预设第二要求的文本以扩充该query对应的相关文本正例，和/或，选择与该query的相关度满足预设第三要求的文本用以扩充该query对应的相关文本负例；利用扩充后的训练数据训练得到第二检索模型。

第二方面，本申请提供了一种检索模型的训练装置，包括：

初始获取单元，用于获取初始训练数据，所述初始训练数据包括查询项query以及该query对应的相关文本正例和相关文本负例；

初始训练单元，用于利用所述初始训练数据训练得到初始检索模型；

第一更新单元，用于利用所述初始检索模型从候选文本中选择与训练数据中的query的相关度满足预设第一要求的文本以更新该query对应的相关文本负例；

第一训练单元，用于利用所述第一更新单元更新后的训练数据训练得到第一检索模型；

第一扩充单元，用于利用所述第一检索模型，从所述候选文本中选择与训练数据中的query的相关度满足预设第二要求的文本以扩充该query对应的相关文本正例，和/或，选择与该query的相关度满足预设第三要求的文本用以扩充该query对应的相关文本负例；

第二训练单元，用于利用所述第一扩充单元扩充后的训练数据训练得到第二检索模型。

第三方面，本申请提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，