[发明专利]集成多样性增强的极深因子分解机模型的应用方法

权利要求书

1.一种集成多样性增强的极深因子分解机模型的应用方法，其特征在于，所述集成多样性增强的极深因子分解机模型用于用户点击率预测，或用于用户购买商品预测；当用于用户点击率预测时，以用户广告点击数据作为样本，样本对应的样本特征包括用户的人口统计学特征、广告的基本属性特征和点击行为所对应的情境特征，以是否点击作为样本的标签值；当用于用户购买商品预测时，以用户购买行为数据作为样本，样本对应的样本特征包括用户的人口统计学特征、商品的基本属性特征和购买行为所对应的情境特征，以是否购买作为样本的标签值；所述应用 方法包括以下步骤：

(1)将样本特征分为类别型特征和数值型特征，并分别对类别型特征和数值型特征进行编码处理，获得训练集，将训练集按照固定大小进行分批；

(2)将编码后的每一个高维稀疏特征向量送入单层的全连接网络获得对应的低维嵌入向量表示，并构造初始特征矩阵；

(3)将初始特征矩阵输入至集成多样性增强交叉网络中，并根据初始特征矩阵获得集成多样性增强交叉网络的每个交叉层的输出矩阵，分别对每个交叉层的输出矩阵中的行向量进行求和池化，获得每个交叉层的输出向量，并将所有交叉层的输出向量进行拼接，得到集成多样性增强交叉网络的输出向量，并利用sigmoid激活函数计算该集成多样性增强交叉网络的输出向量的预测值；

(4)计算每个交叉层的输出矩阵的多样性指标，并采用自注意力机制计算不同交叉层的多样性指标的权重值；

(5)根据每个交叉层的输出矩阵的多样性指标及对应的权重值、样本的预测值和标签值之间的差距构建整体损失；

(6)根据整体损失，利用训练集中的所有样本分批次迭代优化全连接网络、集成多样性增强交叉网络、注意力机制以及sigmoid激活函数的参数，参数确定时，获得集成多样性增强的极深因子分解机模型；

(7)应用时，将用户广告点击数据输入至集成多样性增强的极深因子分解机模型，即可以预测用户是否会点击广告，或将用户购买行为数据输入至集成多样性增强的极深因子分解机模型，即可以预测用户是否购买商品。

2.如权利要求1所述的集成多样性增强的极深因子分解机模型的应用方法，其特征在于，步骤(2)的具体过程为：

首先，将编码后的每个高维稀疏特征向量x_{fea_i}送入单层的全连接网络中，获得对应的d维稠密的嵌入向量表示其中，i＝1,2,…,m，m为特征向量的数目；

其次，将所有的嵌入向量表示x_{emb_i}进行拼接得到初始特征向量表示x₀＝[x_{emb_1}，x_{emb_2}，...，x_{emb_m}]和初始特征矩阵其中，X⁰中的第i行对应于初始特征向量表示x₀中的x_{emb_i}。

3.如权利要求2所述的集成多样性增强的极深因子分解机模型的应用方法，其特征在于，步骤(3)中，

第1个交叉层的输出矩阵由两个初始特征矩阵X⁰进行计算所得，具体计算方式如下：

其中，表示第1个交叉层的输出矩阵中的第l行向量，1≤l≤e₁，e₁为第1个交叉层的输出矩阵X¹的行数，为X¹中第l行的权重参数，和分别表示初始特征矩阵X⁰的第i行向量和第j行向量，表示向量之间的哈达玛积；

第k个交叉层的输出矩阵X^k由初始特征矩阵X⁰和其前一个交叉层的输出矩阵X^k-1进行计算所得，具体计算方式如下：

其中，表示第k个交叉层的输出矩阵中的第l行向量，1≤l≤e_k，e_k为第k个交叉层的输出矩阵X^k的行数，k＝2,3,4,…,K，K为交叉层的数目，表示第k-1个交叉层的输出矩阵X^k-1的第i行向量，为X^k中第l行的权重参数。