[发明专利]对象推送方法、装置、计算机设备及存储介质在审
| 申请号: | 201910698531.5 | 申请日: | 2019-07-31 |
| 公开(公告)号: | CN110413893A | 公开(公告)日: | 2019-11-05 |
| 发明(设计)人: | 袁一方 | 申请(专利权)人: | 腾讯科技(北京)有限公司 |
| 主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F16/735;G06F16/635 |
| 代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 黄晶晶 |
| 地址: | 100080 北京市海淀区海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 推送 候选对象 目标用户标识 计算机设备 存储介质 基本信息 历史对象 样本对象 样本 环境状态信息 目标对象标识 表征样本 动作信息 目标对象 评分模型 强化学习 样本数据 样本用户 兴趣度 奖励 迭代 申请 多样性 终端 输出 | ||
1.一种对象推送方法,所述方法包括:
获取与目标用户标识对应的候选对象标识和历史对象标识;
获取各候选对象标识对应的基本信息;
将所述候选对象标识和历史对象标识作为环境状态信息、以及将所述基本信息作为动作信息,输入评分模型,输出各候选对象标识对应的推送分值;
根据所述推送分值,从所述候选对象标识中,选取向所述目标用户标识所对应的终端推送的目标对象标识;
其中,所述评分模型,是通过对包括样本奖励值的样本数据进行迭代地强化学习训练得到;所述样本奖励值,用于表征样本用户对样本对象的兴趣度、以及表征向样本用户推送样本对象时的推送类别多样性。
2.根据权利要求1所述的方法,其特征在于,所述根据所述推送分值,从所述候选对象标识中,选取向所述目标用户标识所对应的终端推送的目标对象标识包括:
选取推送分值最高的候选对象标识,作为目标对象标识;
所述方法还包括:
根据与所述目标对象标识对应的基本信息,生成推送信息;
按照所述目标用户标识,下发所述推送信息。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取目标用户标识对应的用户信息;
所述将所述候选对象标识和历史对象标识作为环境状态信息、以及将所述基本信息作为动作信息,输入评分模型,输出各候选对象标识对应的推送分值包括:
将所述候选对象标识、历史对象标识和所述用户信息作为环境状态信息、以及将所述基本信息作为动作信息,输入评分模型,输出各候选对象标识对应的推送分值。
4.根据权利要求1所述的方法,其特征在于,所述评分模型的训练步骤包括:
获取样本数据;同一组样本数据中包括对应于同一样本用户的样本对象标识的集合、各样本对象标识的基本信息和样本奖励值;所述样本对象标识包括样本历史对象标识和样本候选对象标识;
在每轮强化学习迭代训练中,将集合作为当前环境状态信息及将各样本对象标识的基本信息作为动作信息,输入主网络,预测各样本对象标识的推送分值;
选择推送分值最高的样本对象标识,并将从所述集合中推送所选择的所述样本对象标识后的环境状态信息,作为下一环境状态信息,将所选择的样本对象标识的基本信息作为所述下一环境状态信息的动作信息、且与所述下一环境状态信息一并输入目标网络,输出所选择的样本对象标识的推送分值;
根据所述样本奖励值和所述目标网络输出的推送分值,得到真实值;
将所述主网络输出的推送分值作为预测值,并根据所述真实值与预测值之间的差距,调整主网络的模型系数,并进行下一轮迭代训练,直至模型系数稳定,得到最终的评分模型。
5.根据权利要求4所述的方法,其特征在于,所述样本奖励值,为同组的集合作为当前环境状态信息时,从所述同组的集合中对推送分值最高的样本对象标识进行下发后得到的奖励值;
所述方法还包括:
当下发的推送分值最高的样本对象标识为被所述样本用户点击过的样本历史对象标识时,根据所述样本用户对所述推送分值最高的样本对象标识的点击信息,确定样本奖励值;
当下发的推送分值最高的样本对象标识为未被样本用户点击的样本候选对象标识时,根据向所述样本用户下发推送分值最高的样本对象标识时的推送类别多样性的值,确定样本奖励值。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述将所述候选对象标识和历史对象标识作为环境状态信息、以及将所述基本信息作为动作信息,输入评分模型,输出各候选对象标识对应的推送分值包括:
将所述候选对象标识和历史对象标识作为环境状态信息作为环境状态信息、以及将所述基本信息作为动作信息,输入评分模型中,通过评分模型预测所述目标用户对各候选对象标识的兴趣度、以及向目标用户标识所对应的终端推送每个候选对象标识时的推送类别多样性的值;
通过所述评分模型根据所述兴趣度和所述推送类别多样性的值,对各候选对象标识进行推送评分,输出各候选对象标识对应的推送分值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(北京)有限公司,未经腾讯科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910698531.5/1.html,转载请声明来源钻瓜专利网。





