[发明专利]基于对比学习预训练的异质信息网络关键词生成方法

权利要求书

1.基于对比学习预训练的异质信息网络关键词生成方法，其特征在于，包括以下步骤：

步骤1，采用文本编码器将文本编码成低维向量，生成文本表示；

步骤2，采用图谱编码器对异质信息网络的结构特征、异质特征和自监督信息进行编码，获得图表示；

步骤3，通过对比学习，将文本表示和图表示进行预训练对齐；

步骤4，引入自动生成的可学习且连续的提示向量，将标识的自然语言语句提供给文本编码器，并将自然语言语句与图谱编码器生成的结构和异质特征表示进行比较来生成分类时的权重，融合得到单一表示；

步骤5，利用获得的单一表示，进行异质信息网络的关键字生成。

2.根据权利要求1所述的基于对比学习预训练的异质信息网络关键词生成方法，其特征在于，步骤2中具体包括以下步骤：

步骤201，对异质子图进行采样，对于给定的节点，需要先对节点周围的子图进行采样；

步骤202，采用自编码器来捕获子图的结构信息，给定子图的邻接矩阵A，它将首先由编码器处理以生成多层的潜在表示，然后，解码器将上述过程逆向得到重构输出自编码器旨在最小化输入和输出的重构误差，使具有相似结构的节点具有相似的表示，损失函数L_structure计算公式如下：

其中，B是施加于非零元素的惩罚稀疏，以减轻稀疏性问题，e表示按位相乘，表示正则化操作；

步骤203，探索异质信息网络的异质特征，将具有相同类型的节点分组在一起，在每个组上应用Bi-LSTM来对特定于类型的特征进行建模，给定类型T_j的节点组节点v的表示计算如下：

其中，Bi-LSTM{v}表示将Bi-LSTM应用于节点v的类型分组上，表示节点组的数量；

然后，应用注意力机制来聚合所有类型组以生成给定节点的表示h_v，

其中，δ表示激活函数，使用LeakyReLU，u∈R^d是权重参数，u^T表示u的转置，是节点v的表示，{T}表示类型的集合，α^v,j表示注意力权重；

步骤204，基于自监督信息预训练子图，引入两个预训练任务，掩码节点建模任务和边重构任务，以实现节点级和边级的图谱探索。