[发明专利]一种信息推送方法、装置、服务器及计算机可读存储介质在审
申请号: | 201811486104.2 | 申请日: | 2018-12-06 |
公开(公告)号: | CN109451038A | 公开(公告)日: | 2019-03-08 |
发明(设计)人: | 王天驹;卞俊杰;姜飞;叶璨 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06N20/00 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 李欣;马敬 |
地址: | 100084 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 推送 预设动作 强化学习 信息推送 计算机可读存储介质 目标用户 服务器 推送内容 推送消息 推送信息 偏好 个性化 捕捉 反馈 输出 放弃 申请 | ||
1.一种信息推送方法,其特征在于,所述方法包括:
当到达信息推送时间时,获得待推送信息及待推送的目标用户的状态信息;所述状态信息包括:所述目标用户在历史上接收到的历史推送信息、所述历史推送信息的推送时间和所述目标用户对历史推送信息的处理方式;
将所述状态信息和预设动作标识输入至预先训练得到的深度强化学习模型,得到每个预设动作标识对应的Q值;其中,所述预设动作标识包括:推送动作的标识和放弃推送动作的标识;预设动作标识对应的Q值为:执行该预设动作标识对应的动作后所获得的长期反馈的估计值;
根据所述深度强化学习模型输出的最大Q值所对应的动作,确定是否给所述目标用户推送所述待推送消息。
2.根据权利要求1所述的方法,其特征在于,所述深度强化学习模型包括深度Q网络模型。
3.根据权利要求2所述的方法,其特征在于,在所述将所述状态信息和预设动作标识输入至预先训练得到的深度强化学习模型的步骤之前,所述方法还包括:
构建马尔可夫决策过程模型;其中,所述马尔可夫决策过程模型为:{S,A,R,T};所述S表示用户的状态信息、所述A表示预设动作标识、所述R表示奖励函数,所述T表示状态转移函数;
基于所述马尔可夫决策过程模型,获得多个训练样本;其中,每个训练样本中包括:用户的状态信息、所执行的目标动作的标识、执行所述目标动作后所获得的即时奖励值、执行所述目标动作后所述状态信息对应的下一状态信息;所述目标动作为:推送动作或放弃推送动作;
利用所述训练样本对初始Q函数的参数进行优化,得到训练后的深度Q网络模型;所述参数包括:学习速率、折扣因子和Q值。
4.根据权利要求3所述的方法,其特征在于,当所述目标动作为放弃推送动作时,所述奖励函数输出的即时奖励值为0;当所述目标动作为推送动作时,所述奖励函数输出的即时奖励值=1.0*正向处理方式对应的取值+(-0.006)*负向处理方式对应的取值。
5.根据权利要求4所述的方法,其特征在于,正向处理方式对应的取值=1-负向处理方式对应的取值。
6.根据权利要求4所述的方法,其特征在于,所述用户对推荐信息的正向处理方式包括:点击、标注为喜欢、评论和查看时长大于预设阈值中的至少一种;所述用户对推荐信息的负向处理方式包括:放弃处理和关闭推送中的至少一种。
7.根据权利要求1-6中任一项所述的方法,其特征在于,所述目标用户的状态信息还包括:所述目标用户对所述待推送信息所对应的作者的关注度、所述目标用户的用户属性信息、所述目标用户所使用的电子设备的设备信息、所述电子设备的网络信息、所述目标用户所发布的信息和所述目标用户的粉丝数量信息中一种或多种。
8.一种信息推送装置,其特征在于,所述装置包括:
第一获得模块,被配置为当到达信息推送时间时,获得待推送信息及待推送的目标用户的状态信息;所述状态信息包括:所述目标用户在历史上接收到的历史推送信息、所述历史推送信息的推送时间和所述目标用户对历史推送信息的处理方式;
输入模块,被配置为将所述状态信息和预设动作标识输入至预先训练得到的深度强化学习模型,得到每个预设动作标识对应的Q值;其中,所述预设动作标识包括:推送动作的标识和放弃推送动作的标识;预设动作标识对应的Q值为:执行该预设动作标识对应的动作后所获得的长期反馈的估计值;
确定模块,被配置为根据所述深度强化学习模型输出的最大Q值所对应的动作,确定是否给所述目标用户推送所述待推送消息。
9.一种服务器,其特征在于,包括:
处理器,用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行上述1-7中任一项信息推送方法的方法步骤。
10.一种计算机可读存储介质,当所述存储介质中的指令由服务器的处理器执行时,使得服务器能够执行上述1-7中任一项信息推送方法的方法步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811486104.2/1.html,转载请声明来源钻瓜专利网。