[发明专利]一种基于内部语义层次结构的词嵌入表示方法

权利要求书

1.一种基于内部语义层次结构的词嵌入表示方法，其特征在于包括以下步骤：

1)使用开源工具获得输入文本中每个词语的内部层次结构：该结构类似于传统短语树结构，不同的是以字符为基本单位，并且标注每个字符在该结构中的层次位置和类别信息；

2)根据层次结构不变性原则对上述结构进行序列化操作，得到保持词内部的层次位置、类别信息的文本序列；

3)将双向门控循环单元GRU网络作用于上述序列进行嵌入表示编码，然后将前向和后向门控循环单元GRU网络得到的两个嵌入表示向量进行拼接，最后通过非线性变换，得到词语的最终嵌入表示向量；

4)对树形结构进行序列化操作，具体方法如下：

利用开源工具获得字符级别树形式的词内部层次结构，抽取序列化的词结构信息，采用深度优先遍历得到序列化结果，从序列化结果中抽取出各个词的序列信息，所述深度优先遍历的过程如下：

假设由开源工具所得到的树形结构中，各类别信息所在的节点构成当前树的节点集合V＝{v₁,v₂,...,v_k}，k为节点个数，选定树的根节点作为起始节点，先对其左子树进行遍历，再对其右子树进行遍历，对于子树遍历过程中遇到的节点，若其不是叶子节点，则继续对其左子树和右子树进行遍历，如此递归进行，直至遍历至树中的最后一个叶子节点为止，至此，得到该树形结构的序列化结果；

序列化操作遵循词内部字符的层次结构不变性，即序列化后的结果中仍保持字符在树中左右分支顺序、类别信息的不变。

2.如权利要求1所述一种基于内部语义层次结构的词嵌入表示方法，其特征在于所述非线性变换采用修正线性单元操作。