[发明专利]文档排序方法、装置、电子设备及存储介质

权利要求书

1.一种基于深度神经网络的文档排序方法，其特征在于，所述深度神经网络包括：输入层网络，用于对输入特征进行建模，得到底层特征；隐藏层网络，用于对所述底层特征进行建模，以提取高阶特征；预测层网络，包括单文档预测子网络、文档列表预测子网络、单文档预测节点和文档列表预测节点，所述单文档预测子网络用于基于单文档方式对所述高阶特征进行打分预测并将预测结果通过单文档预测节点输出，所述文档列表预测子网络用于基于文档列表方式对所述高阶特征进行打分预测，并将预测结果通过文档列表预测节点输出；训练方法包括：

将训练数据分别组织为单文档方式对应的第一训练样本和文档列表方式对应的第二训练样本；

随机初始化深度神经网络的输入层网络参数、隐藏层网络参数和预测层网络参数，所述预测层网络参数包括单文档预测子网络参数和文档列表预测子网络参数；

根据所述第一训练样本和所述第二训练样本，交替使用单文档方式和文档列表方式对所述深度神经网络进行训练，以更新与当前训练方式对应的预测层网络参数、所述隐藏层网络参数和所述输入层网络参数，直至训练完成，得到多目标排序学习模型；

其中，在使用单文档方式且以第一训练样本对所述深度神经网络进行训练时，更新所述单文档预测子网络参数、所述隐藏层网络参数和所述输入层网络参数；

在使用文档列表方式且以第二训练样本对所述深度神经网络进行训练时，更新所述文档列表预测子网络参数、隐藏层网络参数和输入层网络参数；

其中，所述第一训练样本包括用户请求和该用户请求召回列表中的一个文档，所述第二训练样本包括用户请求和该用户请求召回列表中的所有文档；

所述单文档预测子网络用于预测用户请求召回列表中的一个文档的点击率，并以模型预测的点击率对各个文档进行排序；所述文档列表预测子网络用于对该用户请求召回列表中的所有文档进行打分预测，以使基于该打分预测排序后的文档列表所对应的列表评价指标最优。

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一训练样本和所述第二训练样本，交替使用单文档方式和文档列表方式对所述深度神经网络进行训练，以更新与当前训练方式对应的预测层网络参数、所述隐藏层网络参数和所述输入层网络参数，直至训练完成，得到多目标排序学习模型，包括：

将所述第一训练样本和第二训练样本划分为多个训练批次，其中每个训练批次包括多个第一训练样本或多个第二训练样本；

根据所述多个训练批次，交替使用单文档方式和文档列表方式对所述深度神经网络进行训练，以更新与当前训练方式对应的预测层网络参数、所述隐藏层网络参数和所述输入层网络参数，直至训练完成，得到多目标排序学习模型。

3.根据权利要求2所述的方法，其特征在于，所述根据所述多个训练批次，交替使用单文档方式和文档列表方式对所述深度神经网络进行训练，以更新与当前训练方式对应的预测层网络参数、所述隐藏层网络参数和所述输入层网络参数，直至训练完成，得到多目标排序学习模型，包括：

从所述多个训练批次中随机选取一个训练批次，并基于所述训练批次中的训练样本确定当前训练方式；

若所述当前训练方式为单文档方式，则基于所述训练批次使用单文档方式对所述深度神经网络进行训练，并从单文档预测节点获取第一输出结果，基于所述第一输出结果使用反向传播方式更新所述单文档预测子网络参数、所述隐藏层网络参数和所述输入层网络参数；

若所述当前训练方式为文档列表方式，则基于所述训练批次使用文档列表方式对所述深度神经网络进行训练，并从文档列表预测节点获取第二输出结果，基于所述第二输出结果使用反向传播方式更新所述文档列表预测子网络参数、隐藏层网络参数和输入层网络参数；

再次执行上述选取训练批次并基于选取的训练批次对所述深度神经网络进行训练的操作，直至训练完成，得到多目标排序学习模型。

4.根据权利要求2所述的方法，其特征在于，所述将所述第一训练样本和第二训练样本划分为多个训练批次，包括：

按照第一数量，将所述第一训练样本组织为第一训练批次；

按照第二数量，将所述第二训练样本组织为第二训练批次；

将所述第一训练批次和所述第二训练批次进行随机排列，得到多个训练批次。