[发明专利]一种自然语言处理分类模型中多标签分布学习的方法和系统

权利要求书

1.一种自然语言处理分类模型中多标签分布学习的方法，其特征在于，包括以下步骤：

获取训练样本；

根据所有样本的数据计算得到每个标签的标签向量和每个样本的样本向量；

根据所述标签向量和所述样本向量计算得到每个样本与每个标签之间的相关性；

根据样本与每个标签之间的相关性计算得到每个样本的标签分布；

根据所述标签分布更新所述自然语言处理分类模型。

2.根据权利要求1所述的方法，其特征在于：在获取训练样本时还包括：

将语料库中的所有单词转换成词向量，所述词向量包含了对应单词在所述样本中的上下文语义信息。

3.根据权利要求2所述的方法，其特征在于：所述将语料库中的所有单词转换成词向量包括：

将所述样本中以句子切分；

对每个句子按照单词进行切分；

通过CBOW算法对每个句子进行建模与训练，得到每个单词对应的词向量矩阵，即单词与词向量的映射。

4.根据权利要求3所述的方法，其特征在于：根据所有样本的数据计算得到每个标签的标签向量和每个样本的样本向量包括：

分别计算每个单词对于样本和对于标签的重要性；

以所述重要性为权重，对所述单词的词向量进行加权求和得到每个标签的标签向量和每个样本的样本向量。

5.根据权利要求4所述的方法，其特征在于：所述计算每个单词对于样本的重要性包括：

计算每个单词对于特定标签的单词显著性与单词对于样本集合的关联性；

根据所述单词显著性与所述单词对于样本集合的关联性计算每个单词相对于特定样本的重要性。

6.根据权利要求4所述的方法，其特征在于：所述计算每个单词对于标签的重要性包括：

计算每个单词对于特定标签的单词显著性与单词对于标签集合的关联性；

根据所述单词显著性与所述单词对于标签集合的关联性计算每个单词相对于特定标签的重要性。

7.根据权利要求1所述的方法，其特征在于：根据所述标签向量和所述样本向量计算得到每个样本与每个标签之间的相关性包括：

采用相似度计算函数，计算所述样本向量与所述标签向量的相似度，所述相似度即为样本与标签之间的相关性。

8.根据权利要求7所述的方法，其特征在于：根据样本与每个标签之间的相关性计算得到每个样本的标签分布包括：

将所述相似度减去每个维度中的最小值得到每个样本的标签分布。

9.根据权利要求8所述的方法，其特征在于：根据所述标签分布更新所述自然语言处理分类模型包括：

将所述样本的原始标签分布进行独热处理得到原始标签数据；

根据所述原始标签数据和模型预测结果得到原始损失；

根据所述标签分布和模型预测结果得到第一损失；

将所述第一损失按照预设权重与所述原始损失进行求和得到第二损失；

根据所述第二损失更新所述自然语言处理分类模型。

10.一种自然语言处理分类模型中多标签分布学习的系统，其特征在于，包括：

样本获取模块，用于获取训练样本；

向量计算模块，用于根据所有样本的数据计算得到每个标签的标签向量和每个样本的样本向量；

相关性计算模块，用于根据所述标签向量和所述样本向量计算得到每个样本与每个标签之间的相关性；

标签分布计算模块，用于根据样本与每个标签之间的相关性计算得到每个样本的标签分布；

模型更新模块，用于根据所述标签分布更新所述自然语言处理分类模型。