[发明专利]一种基于知网的多义词中文实体关系识别方法

权利要求书

1.一种基于知网的多义词中文实体关系识别方法，其步骤包括：

1)对中文网事数据中的每一条语料样本基于知网进行字颗粒度的向量化，得到每一个字对的字颗粒度向量；然后对每一字颗粒度向量所在的位置信息进行编码，得到语料中每个字与预标注的待识别实体关系对的相对位置编码；

2)根据步骤1)所得结果生成每一语料样本的字颗粒度语义向量集合其中，M为一条语料样本的字数，语料样本中第i个字c_i对应的字颗粒度向量记为c_i相对于待识别实体关系对的位置编码为将转置为向量将向量拼接为代表c_i的字向量，i＝1～M；

3)基于知网获取中文网事数据中的每一条语料样本中的词汇并生成每一词汇的词向量集合；其中词汇w表示为w_b,e，当词汇w具有K重多义时，多义词w的第k种释义的语义向量表示为b代表词汇w在语料中的起始相对位置，e代表词汇w在语料中的终止相对位置，k代表多义词w的第k种释义，k＝1～K；多义词w对应的语义向量集合表示为一条长度为N的语料的词颗粒度语义向量集合表示为为第N个词汇对应的语义向量集合；

4)将每条语料样本中的字向量词向量拼接得到向量x＝{x^c,x^sen}，构成多颗粒度的词格结构语义向量，对存在于语料中的所有词格span进行相对位置编码；其中，利用语义向量x_i代表x^c中的一字向量或x^sen中的一词向量，head[i]、tail[i]代表x_i在语料中的起始、终止相对位置；

5)根据每条语料样本中x_i对应的词格span相对位置编码，生成x_i的位置编码；

6)利用各语义向量及其对应位置编码训练深度自注意力神经网络，得到深度自注意力神经网络编码器；

7)对于待处理语料，生成该待处理语料中字和词汇的语义向量，然后将每一语义向量及其对应位置编码输入深度自注意力神经网络编码器，得到该待处理语料中的实体关系。

2.如权利要求1所述的方法，其特征在于，深度自注意力神经网络根据公式确定语料中的语义向量x_i语义向量与x_j之间的相对位置关系R_i,j；然后基于相对位置关系R_i,j和语义向量x_i、x_j，计算语义向量x_i对语义向量x_j的注意力权重然后基于注意力权重计算深度自注意力神经网络的输出m；然后依次通过公式H＝tanh(m)、α＝softmax(l^TH)、h^*＝mα^T、o＝Wh^*+b、p(y∣S)＝softmax(o)，计算实体关系；其中，为x_i四个维度的位置编码；W_q,W_k,R,W_k,E,u,v，V为深度自注意力神经网络参数，m为注意力权重线性变化的中间向量，为语义向量x_i的词向量表示，为语义向量x_j的词向量表示，l为softmax函数的降维超参数、W为自注意力向量h^*的降维权重超参数、b为自注意力向量h^*的降维偏置项超参数，p(y∣S)代表语义向量x_i、x_j对应的实体关系y属于类别S的概率。

3.如权利要求2所述的方法，其特征在于，用d代表位置编码方法为：k代表词格span在x中的绝对位置，若绝对位置k为偶数，则采用sin函数；若k为奇数，则采用cos函数；其中d_model代表一条词格结构语义向量的向量维度；代表x_i的相对起始位置与语义向量x_j的相对起始位置的距离，代表x_i的相对起始位置与语义向量x_j的相对终止位置的距离，代表x_i的相对终止位置与语义向量x_j的相对起始位置的距离，代表x_i的相对终止位置与语义向量x_j的相对终止位置的距离。