[发明专利]融合自注意力机制和深度矩阵分解的学生成绩预测方法

说明书

本发明提供的是一种融合自注意力机制和深度矩阵分解的学生成绩预测方法。其特征是：构建学生，课程，成绩的三元组成绩矩阵，通过将深度学习与矩阵分解融合的模型实现成绩预测。本发明设计了一个带有注意力机制的深度矩阵分解模型，通过构建学生、课程的成绩矩阵，然后将成绩矩阵对应的学生和课程向量作为输入，对其进行投影，得到其学生(课程)的潜在特征向量；然后，分别对学生(课程)的潜在特征向量加入自注意力机制构建多层感知器网络；最后，通过构建双线性池化层，将行和列的输出向量进行融合，得到成绩预测值，以此提高预测结果的准确度和可解释性。

(一)技术领域

本发明涉及深度学习、数据挖掘及推荐算法等技术领域，具体是涉及一 种融合自注意力机制和深度矩阵分解的学生成绩预测方法。

(二)背景技术

教育数据挖掘是数据挖掘技术和方法在教育环境中的应用。数据挖掘技 术可以为教育决策者提供基于数据的模型，这些模型对于支持他们提高教与学的 效率和质量的目标至关重要。教育数据挖掘的主要应用有学生表现预测，发现学 生不良行为，知识追踪，课程推荐等。其中，学生成绩预测是教育数据挖掘的典 型问题，通过预测学生的成绩，能够及时帮助有学习困难的学生，同时为教学管 理者、老师等提供教学建议和理论支持。

为了实现学生学生成绩预测，发明专利“一种基于朴素贝叶斯模型的学 生学业成绩预测方法及系统”，公开号为CN106127634A，主要是针对数据库中存 储的学生的学习数据，进行数据转换，得到规范化的学生学习状况数据表；针对 规范化的学生学习状况数据表，通过服务器中的计算单元计算不同类别中各属性 的条件概率及不同类别的先验概率；将待预测的学生数据进行数据转换后输入至 训练好的朴素贝叶斯模型进行学生数据分类预测，但朴素贝叶斯算法需知道先验 概率，且先验概率很多时候取决于假设，且该算法对输入数据的表达形式很敏感。 发明专利“一种基于BP神经网络模型的学生学业成绩预测方法及系统”，公开号 为CN106157204A，主要利用学生临近两个学期的学业成绩和入学学业成绩数据， 针对在学生学业成绩预测时存在的技术问题，实现对学生学业成绩的智能预测， 但是提取的特征粒度较粗，其预测结果缺乏可解释性。本发明描述的“一种融合 注意力机制和深度矩阵分解的学生成绩预测方法”将利用本科生历史课程成绩预 测下个学期将要学习的课程成绩。本发明设计了一个自注意力机制来提取学生、 课程潜在的特征向量不同的权重，得到学生潜在特征向量和课程潜在特征向量后， 分别对学生(课程)的潜在特征向量加入自注意力机制构建多层感知器网络；最 后，通过构建双线性池化层，将行和列的输出向量进行融合，得到成绩预测值，以 此提高预测结果的准确度和可解释性。

(三)发明内容

为解决现有技术存在的不足，本发明公开了一种融合自注意力机制和深 度矩阵分解的学生成绩预测方法，本发明利用本科生历史课程的历史成绩数据， 通过一种融合自注意力机制和多层神经网络结构的矩阵分解模型，提高学生成绩 预测的准确性以及结果的可解释性。

为实现上述目的，本发明的具体方案如下：

一种融合自注意力机制和深度矩阵分解的学生成绩预测方法，包括以下 步骤：

步骤一：获取学生历史课程成绩数据。由于采集的原始数据不能直接用 于后续的计算，需要对采集到的原始数据进行预处理。在预处理数据后，得到规 范化的数据；

步骤二：根据每位学生已获得的历史成绩数值，构建学生-课程之间的 成绩矩阵，得到训练数据集；

步骤三：从训练数据的成绩矩阵中直接得到学生(行)特征向量、课程 (列)特征向量，然后将两个特征向量做非线性变换得到其潜在学生特征向量和 课程潜在特征向量，然后作为带有自注意力机制的全连接神经网络的输入，来构 建和训练成绩预测模型；

步骤四：将学生下一学期所修课程成绩作为测试数据集，然后对数据进 行数据转换、规范化处理后，输入至训练好的融合自注意机制和深度矩阵分解模 型进行学生最终成绩预测。