[发明专利]长尾级联流行度预测模型、训练方法及预测方法

说明书

本发明公开了一种长尾级联流行度预测模型、训练方法及预测方法，该长尾级联流行度预测模型包括骨干网络、以及位于骨干网络之后的回归器，回归器包括并行设置的原始回归器和子网络SUB；骨干网络和原始回归器构成长尾级联流行度预测模型的基线模型；骨干网络用于提取长尾级联的时间特征和空间特征；原始回归器用于得到该长尾级联流行度的原始预测值；述子网络SUB用于得到该长尾级联流行度的加权偏差；以该长尾级联流行度的原始预测值与加权偏差之和作为最终流行度预测值。本发明利用解耦的思想，整个模型训练分为两个阶段，首先利用不同的采样策略来提取骨干网络的特征表示，然后将骨干网络的参数固定住，再通过几种不同的方法微调回归器，该回归器结合了原始的预测值和由子网络SUB产生的加权偏差值，达到更准确预测流行度的目的。

技术领域

本发明属于深度学习(Deep Learning)中的信息扩散(Information diffusion)、信息级联(Information Cascade)和流行度预测(Popularity Prediction)领域，是一种基于解耦思想(Decoupling Scheme)来解决长尾级联预测(Long-tailed CascadePrediction)问题的通用方法。

背景技术

信息扩散是指信息通过交互作用从一个地方传播到另一个地方的过程，该领域涵盖了来自众多科学领域的技术，包括社会学，流行病学和人种论等不同领域的技术。本发明是针对信息级联的扩散进行合理有效的建模和流行度预测。信息级联的一项典型任务是预测某一条级联(推文、微博等)，在特定一段时间段后潜在受影响用户的规模，也即流行度预测。特别地，Twitter，Facebook，微信和新浪微博等在线社交平台的出现为信息的产生和传播带来了前所未有的便利。用户通过社交网络以级联的形式传播各种新闻，事件和帖子。因此，这一对信息级联流行度的准确预测任务对于这些平台的用户和所有者都很有价值。例如，了解哪种类型的推文传播更广泛，可以帮助营销专家设计他们的策略；预测谣言的潜在影响用户，使得管理员可以及早进行干预以避免严重后果等。

传统的方法将精力集中在对级联的传播进行转发关系和时间特征建模，传统的建模方法面临着数据集严重不平衡的挑战,为了防止损失函数或度量指标受到少部分极值数据的影响，传统的方法重新制定了问题定义，例如将问题转化为分类问题，预测一条级联是否会超过级联的中值大小；或者是采用其他的评估指标，如k-top覆盖率、确定/相关系数及其变量、排名。

然而，现实中的数据集存在极度不平衡的现象，服从长尾分布(Long-tailDistribution)。例如在级联预测问题中，大的级联占据少数，小的级联占大多数，该现象导致实例丰富的数据支配训练过程，从而导致模型的预测非常保守，使得预测值分布在相对中间大小的范围内，从而降低了预测性能。

但是，目前还没有研究从数据服从长尾分布的角度来解决级联预测效果低下的回归问题。

发明内容

本发明的目的旨在针对传统方法直接回避长尾数据带来的预测准确率不高、可解释性低等技术现状，提供一种直面长尾级联信息数据的流行度预测模型及训练方法，利用解耦思想，进行分步训练，以此来提高流行度预测准确率，能够作为现有的级联流行度预测模型的可拔插的通用方法，并具有较强的可解释性。

本发明的另一目的旨在提供一种长尾级联流行度预测方法。

本发明提供的长尾级联流行度预测模型可以使用传统的级联流行度预测模型(例如DeepCas、DeepHawkes、VaCas等)作为本发明长尾级联流行度预测模型的基线模型，所有基线模型都是采用联合训练的方式，本发明在基线模型基础之上采用解耦训练的思想。

本发明提供的长尾级联流行度预测模型包括骨干网络、以及位于骨干网络之后的回归器，所述回归器包括并行设置的原始回归器和设计的子网络SUB；所述骨干网络和原始回归器构成长尾级联流行度预测模型的基线模型；

所述骨干网络用于提取长尾级联的时间特征和空间特征；