[发明专利]基于神经网络的搜索排序方法、系统、设备和存储介质

权利要求书

1.一种基于多任务的神经网络的搜索排序方法，其特征在于，包括以下步骤：

对用户的搜索需求数据进行挖掘得到特征数据；

将所述特征数据输入到基于多任务的神经网络的搜索排序模型，进行前向计算，得到若干搜索目标及每个所述搜索目标对应的评分；

根据所述评分对若干所述搜索目标进行排序，输出排序结果；

其中，所述搜索排序模型在训练过程中任务之间的参数共享为有选择的参数共享。

2.如权利要求1所述的基于多任务的神经网络的搜索排序方法，其特征在于，所述任务之间的参数共享为有选择的参数共享为：

所述任务之间的参数共享是所述搜索排序模型在训练过程中根据优化函数进行自主学习实现的有选择的参数共享。

3.如权利要求2所述的基于多任务的神经网络的搜索排序方法，其特征在于，所述优化函数为：

其中，n为正整数，n表示所述搜索排序模型所包括的任务的数量；

i和j均为正整数，取值范围为1到n；

W表示所述神经网络待训练的参数；

t表示所述神经网络训练过程中的迭代次数；

表示任务i在所述神经网络迭代t次后的参数；

表示任务i在所述神经网络迭代t+1次后的参数；

是指更新时所有其它任务对任务i的参数贡献量，其中，表示任务j对任务i的参数贡献量的程度，取值范围为0～1，表示任务i和任务j的共享参数。

4.如权利要求1所述的基于多任务的神经网络的搜索排序方法，其特征在于，所述搜索排序方法还包括以下步骤：

生成所述基于多任务的神经网络的搜索排序模型；

所述生成所述基于多任务的神经网络的搜索排序模型的步骤包括：

将m个样本的特征向量输入至主任务和若干个相关子任务的全连接神经网络，经前向运算得到所述主任务的第一预测值y_m以及所述相关子任务的第二预测值y_e；其中，e为正整数，e表示所述相关子任务的数量；

根据所述第一预测值y_m和对应的样本标签的真实值计算得到所述主任务的损失函数值，根据所述第二预测值y_e和对应的样本标签的真实值计算得到每个所述相关子任务的损失函数值；

利用优化算法对所述主任务的损失函数值及全部所述相关子任务的损失函数值分别进行极小化优化，不断的相互迭代所述主任务的全连接神经网络和所述相关子任务的全连接神经网络，直到收敛，最终得到所述基于多任务的神经网络的搜索排序模型。

5.如权利要求4所述的基于多任务的神经网络的搜索排序方法，其特征在于，所述第二预测值y_e采用sigmoid激活得到p_t，p_t的计算公式如下：

所述相关子任务采用的损失函数如下：

FL(p_t)＝-β_t(1-p_t)^γ·log(p_t)；

其中，γ表示聚焦参数，β_t表示用于控制正负样本对总损失的共享权重。

6.一种基于多任务的神经网络的搜索排序系统，其特征在于，包括：

特征数据挖掘模块，用于对用户的搜索需求数据进行挖掘得到特征数据；

搜索评分执行模块，用于将所述特征数据输入到基于多任务的神经网络的搜索排序模型，进行前向计算，得到若干搜索目标及每个所述搜索目标对应的评分；

排序输出模块，用于根据所述评分对若干所述搜索目标进行排序，输出排序结果；

其中，所述搜索排序模型在训练过程中任务之间的参数共享为有选择的参数共享。

7.如权利要求6所述的基于多任务的神经网络的搜索排序系统，其特征在于，所述任务之间的参数共享为有选择的参数共享为：

所述任务之间的参数共享是所述搜索排序模型在训练过程中根据优化函数进行自主学习实现的有选择的参数共享。