[发明专利]一种用于情报快速整编的中文文本分类方法

权利要求书

1.一种用于情报快速整编的中文文本分类方法，其特征在于，包括以下步骤：

获取情报中的中文文本，将每个字符c_i转换为向量x_i，将每个输入词w_i训练得到d_w维向量，对于具有多重感觉的字符和单词，通过共同学习词语和感觉来获得多重感觉嵌入；

利用字符意义LSTM单元来融合字符的多种字符意义、利用单词意义LSTM单元来融合单词的多种单词意义以及利用融合LSTM单元来融合字符级和单词级特征，获得双向隐藏向量序列{h₁，h₂，...，h_m}；

将所述双向隐藏向量序列馈送到字符级注意模块以产生句子级特征向量，获得最终表示g；

将所述最终表示g传输到完全连接层中以计算每种类型的置信度得分；

以交叉熵损失为目标函数，通过迭代优化模型中的所有参数直至收敛，以最小化损失函数；

对分类后的情报文本根据用户需要的内容和格式进行组织，生成用户需要的情报产品；

其中，所述将每个字符c_i转换为向量x_i的步骤如下：

给定一个由m个字符组成的句子s＝{c₁，c₂，...，c_m}，通过查找预先训练的嵌入表，将每个字符c_i通过下式映射到具有相应的字母组合嵌入的向量表示中：x_i＝E^c(c_i)，其中表示字符嵌入表，|V^c|代表字符的词汇量，表示字符c_i的unigram 嵌入；

所述将每个输入词w_i训练得到d_w维向量的步骤如下：对应输入句子的单词序列s＝{w₁，w₂，...，w_n}，每个单词w_i通过下式捕获单词的语义和句法信息：w_i＝E^w(w_i)，其中，是词汇表为|V^w|的单词嵌入表，句子的向量表示为{w₁，w₂，...，w_n}；

所述通过共同学习词语和感觉来获得多重感觉嵌入的步骤如下：

其中代表意义嵌入表，|V^sen|是词汇量，是的意义嵌入，代表了第j个字符的意义。

2.根据权利要求1所述的用于情报快速整编的中文文本分类方法，其特征在于，利用字符意义LSTM单元来融合字符的多种字符意义的步骤包括通过以下公式计算c_i第j个意义的单元的门：

其中代表字符c_i的意义嵌入，是字符c_i-1的前向隐表示，表示c_i-1的单元状态，和和b^c是训练参数，分别代表了输入门，遗忘门和字符c_i的字符级特征，σ(·)表示sigmoid函数。

3.根据权利要求1所述的用于情报快速整编的中文文本分类方法，其特征在于，所述利用单词意义LSTM单元来融合单词的多种单词意义的步骤包括：

通过一个附加的LSTM单元获得单词w_b，e的第j个意义的单元门：

其中，是单词w_b，e的第j个意义的嵌入，和是字符c_b-1的正向隐藏向量和单元状态；

通过以下方式计算c_i的单元状态：

其中和如下定义：

和分别代表了单词w_b，e、字符c_i和句子c的各个意义层级的单元状态，是字符c_i的输入门，和由控制单词意义和字符意义的附加门生成，代表了单词w_b，e的第j个意义的嵌入结合附加的单词意义门后的特征表示。