[发明专利]一种基于数理特征提取的数学题文本多标签分类方法

权利要求书

1.一种基于数理特征提取的数学题文本多标签分类方法，其特征在于，包括如下步骤：

步骤1，采集多套数学试卷中的试题作为样本，形成样本集；并将每道题目的知识点作为样本的标签；

对样本及其标签进行预处理和特征提取，得到样本对应的样本特征向量及样本特征向量对应的标签形成样本特征向量集w＝{(x₁,y₁),...(x_n,y_n)}，其中，x_i是第i个样本特征向量，y_i是第i个样本对应的标签，i＝1、2、...、n，n是样本个数；

对样本特征向量进行编码得到隐藏层向量h_s；引用自注意力机制计算各个隐藏层向量h_s的注意力权重a_s；

基于所得到的注意力权重a_s，对隐藏层向量进行加权求和，得到文本输出的特征向量

步骤2，将样本集分为训练集和测试集；获取训练集中样本对应的答案解析文本，答案解析文本分为叶节点和根节点，根节点为答案解析的标签文本信息，叶节点为可直接或间接推出根节点标签的文本信息；

对答案解析文本进行预处理和特征提取，得到叶节点文本信息特征及根节点文本信息特征；由叶节点文本信息特征及根节点文本信息特征形成特征先验树的特征矩阵，表示为：v＝{v₁,v₂,...v_n}；

步骤3，对样本特征向量与特征先验树的特征矩阵进行数理特征提取，得到数理特征提取部分的输出结果l_i；

步骤4，将训练集的文本输出的特征向量F_q和数理特征提取部分的输出结果l_i输入分类器，由分类器输出分类结果；

步骤5，设置训练集的训练停止条件，当训练停止时获得训练好的数学文本多标签分类模型；应用训练好的数学文本多标签分类模型对数学题文本分类。

2.根据权利要求1所述的一种基于数理特征提取的数学题文本多标签分类方法，其特征在于，步骤1和步骤2中均采用Word2vec进行词嵌入，得到特征向量。

3.根据权利要求1所述的一种基于数理特征提取的数学题文本多标签分类方法，其特征在于，样本特征向量进行编码的方法为：

将样本特征向量输入BILSTM模型的编码器中进行编码，输出每个样本特征向量对应的编码；表示为：

得到隐藏层向量其中，表示s时刻BILSTM两个方向的输出向量；LSTM是长短期记忆结构。

4.根据权利要求3所述的一种基于数理特征提取的数学题文本多标签分类方法，其特征在于，引用自注意力机制计算各个隐藏层向量的注意力权重a_s：

u_s＝tanh(W_wh_s+b_w)

其中，u_s是s时刻计算得到的向量，s＝1、2、...、S，S是编码的总时长；tanh是双曲正切函数，W_w,b_w是自注意力机制的权重参数和偏置项；exp是指数函数。

5.根据权利要求1所述的一种基于数理特征提取的数学题文本多标签分类方法，其特征在于，数理特征提取部分由多个基特征提取组成，在每个基特征提取中，将样本特征向量和特征先验树的特征矩阵中的向量v_i表示为：

l_i＝f(w,v_i,W_i¹,W_i²)

其中，l_i是基特征提取的输出，f函数即是对w,v_i向量做cosine和compare运算；W_i¹是用于w和v_i进行consine计算的参数矩阵，W_i²是用于与计算得到的cosine值做compare的校验参数矩阵。