[发明专利]一种中文事件触发词抽取方法及装置

权利要求书

1.一种中文事件触发词抽取方法，其特征在于，包括以下步骤：

对输入文本进行全分词、依存句法分析，提取依存句法分析中未出现的单词的所有义原；

对提取的字符、单词、义原进行初始向量化，利用双向长短期记忆网络BiLSTM对每个句子中的字符进行训练，得到每个字符能够记忆其句中前后字符特征的向量表征；

将BiLSTM的输出输入到节点注意力网络，有侧重地捕捉与当前节点同一类型邻居节点的特征，将节点注意力网络的输出输入到类型注意力网络，有侧重地捕捉与当前节点不同类型邻居节点的特征；节点类型包括字符节点、单词节点和义原节点；

将类型注意力网络的输出输入到一个条件随机场，输出标注序列，实现触发词的抽取；

节点注意力网络的输出为：

e_ij＝LeakyReLU(v^τ[W_τh_i,W_τh_j])

式中，为节点注意力网络第i个节点的输出向量，σ、LeakyReLU为激励函数，N_τ,i表示与第i个节点即当前节点相邻的τ类型节点的集合，W_τ为τ类型节点的维度变换矩阵，a_ij为第j个节点输入向量h_j的权重，e_ij为第i个节点与第j个节点的相似度，v^τ为τ类型节点的权重矩阵，h_i为第i个节点输入向量；

对包括节点注意力网络和类型注意力网络的异构图注意力网络进行训练时，基于maskattention机制依次实现以下4个步骤的网络特征传播：

V_C→V_W：

V_W→V_S：

V_S→V_W：

V_W→V_C：

其中，V_c、V_w、V_s分别为字符节点，单词节点和义原节点；HGAT表示异构图注意力网络，GAT表示节点注意力网络，H_c、H_w、H_s分别为字符节点、单词节点和义原节点的矩阵表示，其上标为更新次数，初始矩阵为

网络特征传播采用端到端的训练方法，每一步传播过程采用残差连接方式解决梯度消失问题，即其中，h′、h_i分别为当前传播步骤的输出和输入，为下一传播步骤的输入。

2.根据权利要求1所述的中文事件触发词抽取方法，其特征在于，类型注意力网络的输出为：

式中，h_i′为类型注意力网络第i个节点的输出向量，β_i,τ为的权重，m_i,τ为τ类型节点对输出向量的贡献程度，C_i为第i个节点邻居节点类型的集合，|C_i|为C_i的元素个数，q为注意力向量，tanh为激励函数，W、b分别为权重和偏置矩阵。

3.根据权利要求1所述的中文事件触发词抽取方法，其特征在于，条件随机场的损失函数为：

Loss＝-log₁₀(p(Y|X))

式中，Loss为损失函数，X＝{x₁,x₂...,x_n}、Y＝{y₁,y₂…,y_n}分别为输入和输出序列，p(Y|X)为X序列被标记为Y序列的概率，S(X,Y)为得分函数，为标注集合，Y′为任意一个标注，为初始转移得分，为结尾转移得分，为由y_i-1转移到y_i的得分，为x_i标记为y_i的得分，W_s、b_s分别为权重和偏置矩阵。