[发明专利]一种长尾分布场景下的方面类别识别方法及系统

权利要求书

1.一种长尾分布场景下的方面类别识别方法，其特征在于，所述方法对数据集中的N个句子进行方面类别的识别，其中，S_l＝{w₁,w₂,…,w_n}为所述数据集D中的第l个句子，由n个词组成，w_n表示所述第l个句子S_l中第n个词；是所述第l个句子S_l对应的方面类别标签；

所述方法包括：

步骤1：预先定义m个方面类别，用A＝{a₁,a₂,…,a_m}表示，其中a_m为描述第m个方面的单词或词组，

步骤2：构建词嵌入矩阵E₁∈R^|V|×d，每个词w_i通过所述词嵌入矩阵E₁中映射为其中|V|为所述数据集D中所有词的大小，d是词向量的维度；

同时构建方面类别嵌入矩阵E₂∈R^m×d，每个词a_i通过所述方面类别嵌入矩阵E₂中映射为

分别得到文本嵌入向量和方面嵌入向量

步骤3：将所述文本嵌入向量与所述方面嵌入向量输入到长短时记忆网络LSTM中，得到该句子的网络输出隐藏状态和

步骤4：将所述隐藏状态H_w和H_a输入到IAN-LoT机制中，得到融合长尾分布特点的总的方面向量表示s；

步骤5：将所述总的方面向量s输入到融合上下文方面级语义信息的注意力机制，计算融合向量

步骤6：使用所述融合向量向量作为预测的句子表示，如公式(1)所示，对于第j个方面类别：

其中，W_j∈R^d×1，b_j为一个标量，为第j个方面类别的预测结果，当大于分类阈值时，认为句子包含第j个方面类别。

2.根据权利要求1所述的方法，其特征在于，所述IAN-LoT机制中计算融合长尾分布特点的总的方面向量的步骤包括：

步骤41：对于输入的隐藏状态H_w和H_a计算交互注意力权重矩阵I∈R^n×m，如公式(2)所示：

步骤42：对所述交互注意力权重矩阵的每一行进行softmax计算，如公式(3)所示：

其中，k_ij为矩阵k∈R^n×m的第i行第j列元素，k表示文本对方面的注意力权重，I_ij为矩阵I中第i行第j列的元素；

步骤43：然后对于矩阵k引入数据长尾分布特点，如公式(4)所示：

其中，为引入长尾分布的文本对于每个方面的权重信息，β∈R^1×m代表预先学习到的长尾分布特点，为训练集中有效样本的数量倒数，m为方面类别的个数；

步骤44：对于进行最大池化，得到融入长尾分布特点的细粒度的文本对于方面的权重信息I_L，进而将此权重信息与方面类别的嵌入向量表示相乘，得到最终的总的方面向量表示s，如公式(5)所示：

其中，s∈R^1×d。

3.根据权利要求2所述的方法，其特征在于，所述融合上下文方面级语义信息的融合向量的计算过程包括：

将所述总的方面向量s与作为输入，计算融合向量如公式(6)所示：

其中，W∈R^n×1是每个单词与方面融合的可学习权重参数，代表融合上下文方面级语义信息的向量，将输入到所述注意力机制，为每个预定义的方面类别生成注意权重向量；如公式(7)所示，对于第j个方面类别：

其中W_j∈R^d×d,b_j∈R^d以及u_j∈R^d为可学习参数，β∈R^1×m，代表预先学习到的长尾分布特点，为训练集中有效样本的数量倒数，α_j∈Rⁿ是注意力权重向量。