[发明专利]一种基于知识图谱和图注意力网络的课程推荐系统在审
| 申请号: | 202211602359.7 | 申请日: | 2022-12-13 |
| 公开(公告)号: | CN115840853A | 公开(公告)日: | 2023-03-24 |
| 发明(设计)人: | 贺晴;刘嵩岩;刘瑶 | 申请(专利权)人: | 黑龙江大学 |
| 主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F16/36;G06F18/23213 |
| 代理公司: | 哈尔滨市哈科专利事务所有限责任公司 23101 | 代理人: | 孟策 |
| 地址: | 150000 黑龙江省哈尔滨*** | 国省代码: | 黑龙江;23 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 知识 图谱 注意力 网络 课程 推荐 系统 | ||
1.一种基于知识图谱和图注意力网络的课程推荐系统,其特征在于,包括领域知识图谱构建模块、知识表示学习CTransD模块、图注意力网络CTransD-GAT模块和评分预测模块;
所述的领域知识图谱构建模块:采用自顶向下的构建方式,抽象概括领域知识,得到领域知识图谱的实体概念,为领域中的每个实体概念定义实体类、对象属性、数据属性、值域和约束条件,构建出领域知识图谱本体库,从数据集中获取数据,将知识图谱所需的实体、属性、关系元素抽取出来,实例化本体库,形成结构化知识存入知识图谱;
所述的知识表示学习CTransD模块:将所述的知识图谱中的实体和关系嵌入到连续的稠密的低维向量空间中,形成用户、课程和关系的初始嵌入向量,用来刻画推荐系统的课程语义信息;
所述的图注意力网络CTransD-GAT模块:通过注意力机制来计算所述的知识图谱中关系对用户的权重,利用用户的嵌入向量和关系嵌入向量的内积表示该种关系对用户的重要程度,实体节点根据权重系数将特征信息传递给相邻节点,并使实体节点与传播的相邻节点进行嵌入聚合生成新的包含更多信息的节点表示;
所述的评分预测模块:将用户嵌入向量eu与聚合后的课程嵌入向量ek做内积,作为用户点击物品的概率值
2.根据权利要求1所述的一种基于知识图谱和图注意力网络的课程推荐系统,其特征在于,所述知识表示学习模块为优化后的CTransD模块,模型创建步骤如下:
步骤1、三元组提取:将知识图谱中的数据转换为三元组结构;
步骤2、构造三元组得分函数:对每个三元组(h,r,t)来说,h是头实体向量,r是关系向量,t是尾实体向量,通过K-Means聚类算法,依据实体向量间的相似性聚成k类,每个实体向量属于且仅属于一个到其实体向量类簇中心距离最小的类簇中,使用算术平均值的方法计算簇群的平均值,并把这个平均值当做实体类中心,头实体的中心记为头实体组成的邻域尾实体的中心记为尾实体组成的邻域头尾实体类中心分别定义为:
头尾实体完成聚类后,头尾投影矩阵Mrh和Mrt分别表示为:
关系空间中被投影的头实体h⊥和尾实体t⊥分别表示为:
h⊥=Mrhh,t⊥=Mrtt
被投影到关系r平面的头实体h⊥和尾实体t⊥满足h⊥+r-t⊥≈0,三元组得分函数为:
步骤3、构造负例三元组:对于给定的三元组,以概率P替换头实体,以1-P的概率替换尾实体,生成负例三元组,概率P为:
其中,Ntph表示每个头实体对应的尾实体数量的平均值,Nhpt表示每个尾实体对应的头实体数量的平均值;
步骤4、构造实体类中心和实体投影相似性:用实体类中心代替整个实体类进行类间距计算,通过欧氏距离度量实体类中心的相似性,实体类中心相似性为:
通过正态分布函数把欧氏距离转换成概率表示相似性,以为条件选择的实体类中心相似性概率定义为:
实体类中心对应投影向量以为条件选择的实体投影向量相似性概率定义为:
将上式的条件概率进行对称化处理,得到对称化处理后的实体类中心相似性概率和实体投影向量相似性概率定义为:
步骤5、根据目标函数进行梯度更新:采用三元组损失函数和KL散度损失函数作为样本的目标函数,目标函数为:
其中(h,r,t)∈S表示中三元组集合,(h',r,t')∈S'表示负例三元组集合,由负三元组构建策略生成,目标函数使用随机梯度下降算法更新模型参数,每次伯努利抽样抽取部分三元组,生成负例三元组加入三元组数据集合中,γ表示正例和负例三元组得分的距离,将集合中的实体和关系在各自向量空间中归一化操作,使用归一化向量数据训练模型。
3.根据权利要求1所述的一种基于知识图谱和图注意力网络的课程推荐系统,其特征在于,所述图注意力网络CTransD-GAT模块,模块创建步骤如下:
步骤1、计算用户权重偏好系数:利用用户的嵌入向量和关系嵌入向量的内积表示该种关系对用户的重要程度,在知识图谱中头尾节点连接的边即为权重,权重系数表示如下:
其中eu和er分别表示用户u和关系r的嵌入向量,通过softmax函数归一化对权重系数进行归一化操作,表示如下:
其中是归一化后的权重系数,N(v)表示节点v的邻居节点集合;
步骤S2、特征传播与聚合:对所有关系类型的邻居节点进行传播,将节点加权求和得到实体邻域的特征向量,特征向量表示如下:
通过BI-Interaction聚合函数,先将两个向量相加进行非线性变换,再将两个向量元素点乘进行非线性变换,最后将两个向量相加,表示如下:
其中,W1,W2∈Rd′×d和b1,b2∈Rd为可训练权重矩阵与偏差,σ为ReLu激活函数,表示点乘。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于黑龙江大学,未经黑龙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211602359.7/1.html,转载请声明来源钻瓜专利网。





