[发明专利]一种基于图胶囊网络的短视频点击率预测方法

权利要求书

1.一种基于图胶囊网络的短视频点击率预测方法，其特征在于：

融合短视频多模态特征，生成短视频向量表征；对于当前用户的点击行为序列X＝[x₁，…，x_n]，x_j由短视频的封面特征和文本特征两种模态构成，如下：

其中，CONCAT方法表示将两种模态的向量直接连接生成新的向量，是短视频的封面图特征向量，是短视频的文本特征向量，短视频特征向量x_j的长度为d；

根据所有用户的历史点击行为序列，构建短视频图网络T；

根据短视频图网络T，生成短视频多层向量表征令：

其中，k代表在短视频图网络T中的搜索深度，k的最大深度由搜索深度参数L控制，代表节点x_j在k层的向量表征；B(j)为短视频图网络T中短视频x_j的邻居集合，按照图T边由大到小排序采样sampling获得；非线性函数f表示将节点x_j的邻居节点信息融合到节点x_j中；

根据短视频的多层向量表征采用改进的胶囊网络生成用户兴趣表征

其中，k表示深度，是当前用户行为序列X＝[x₁，…，x_n]的第j个短视频胶囊到兴趣胶囊i的转换矩阵，不同深度k下的空间转换矩阵W_j，i相同，且兴趣胶囊i的个数是M；g是胶囊网络中常用的squash激活函数；用户兴趣表征的向量长度为d；是连接系数，代表的权重，参数采用添加了温度系数和改变了归一化方式的动态路由算法更新：

其中，k表示深度，参数是深度k下的输入胶囊j到输出胶囊i的连接系数且初始化为0；τ是温度系数，当τ→0⁺，输出兴趣胶囊趋向于只关注一个输入胶囊，而当τ→∞，输入胶囊对于输出兴趣胶囊的作用趋于一致；本方法改动之处有两点：第一点是增加温度系数，第二点是更改原先动态路由算法的归一化normalization方式；

根据用户兴趣表征预测用户对目标短视频的点击率：

其中，为用户的第k层的第i个兴趣表征，x_new为目标短视频向量表征；参数和参数控制每个兴趣表征的权重，d既是短视频特征向量的长度又是用户兴趣表征的长度，参数c是偏置参数；和是转移矩阵，是偏置向量，b₂是偏置标量；σ是sigmoid激活函数；

根据模型特性，设计损失函数；通过用户对目标短视频的点击率预测值计算预测值和真实值y之间的误差，进而使用误差来更新模型参数；最后采用交叉熵损失函数来指导模型参数的更新过程：

其中，y∈{0，1}是真实值，代表用户是否点击了目标短视频；σ是sigmoid函数；最后采用Adam优化器更新模型参数。

2.根据权利要求1所述的一种基于图胶囊网络的短视频点击率预测方法，其特征在于：所述短视频图网络T构造方法为：

给定一个用户u^τ历史点击行为序列X^τ＝[x₁，…，x_l]，l是用户u^τ的行为序列X^τ的长度，任一短视频x_j为图T的节点，(x_j-1，x_j)为图网络T的边，(x_j-1，x_j)表示一个用户点击短视频x_j-1后点击短视频x_j；图的边数值属性为边(x_j-1，x_j)出现的次数；最后为了降低在线计算复杂度，采用离线文件存储每个节点在短视频图网络T中的邻居节点。

3.根据权利要求1所述的一种基于图胶囊网络的短视频点击率预测方法，其特征在于：所述将节点x_j的邻居节点信息融合到节点x_j中的非线性函数f为：

其中，B(j)为短视频图网络T中短视频x_j的邻居集合，W^k是图参数，σ为sigmoid函数，CONCAT表示向量连接操作；AGGREGATE函数采用的最大池化max-pooling方法：

其中，B(j)为短视频图网络T中短视频x_j的邻居集合，W_poo1是网络参数，b是偏置向量bias vector，σ为sigmoid函数；max代表元素级别的max操作，可以有效捕捉邻居的各个方面属性。