[发明专利]业务模型的训练和确定文本分类类别的方法及装置

说明书

本说明书实施例提供一种业务模型的训练方法及装置，以及确定文本分类类别的方法及装置。具体实施时，一方面，将文本用编码网络处理，得到相应的语义向量，另一方面，将分类类别按照层级关系建立关系网络，并通过图卷积网络处理该关系网络，以融合节点之间的信息，得到类别表达向量。然后，将文本的语义向量和类别表达向量相融合，确定分类类别的预测结果。在业务模型训练阶段，可以将该预测结果与样本标签进行对比，以确定损失并调整模型参数，在利用训练好的业务模型确定文本分类类别的阶段，则可以根据预测结果与确定相应的分类类别。这种实施方式可以提高文本分类准确度。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及对用于预测文本分类类别的业务模型进行训练，以及使用训练好的业务模型确定文本分类类别的方法和装置。

背景技术

随着计算机技术的发展，机器学习的应用越来越广泛。人工智能（ArtificialIntelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能充分基于机器学习，为人类生活带来极大便利。在文本处理领域，人工智能的应用例如可以包括：个性化信息推送、敏感词识别、情感倾向分析、文案预测、文本类别预测，等等。

其中，文本类别预测可以为文本预测分类类别。本说明书中所指的分类类别，可以称为索引、query等。在实际业务场景中，文本的分类类别通常还具有层级信息，例如，一个文本“今天涨的最多的股票”，对应分类类别可能为“金融|理财|股票”，包含由大到小的三个层级“金融”、“理财”、“股票”，一个文本“018新品上架！男女气垫鞋！”对应分类类别：“电商零售|服饰鞋包|运动鞋”，包含由大到小的三个层级“电商零售”、“服饰鞋包”、“运动鞋”等等。可以看出，分类类别纸巾包含的层级关系蕴含着丰富的层级信息，如果能充分利用这些层级信息，则可能提高人工智能对文本分类类别预测的准确性。

发明内容

本说明书一个或多个实施例描述了一种用于预测文本分类类别的业务模型的训练方法及装置，以及利用训练好的业务模型预测文本分类类别的方法及装置，用以解决背景技术提到的一个或多个问题。

根据第一方面，提供了一种业务模型的训练方法，所述业务模型包括编码网络、融合层、全连接层，用于确定文本分类类别，所述方法包括：从训练样本集中获取第一文本，所述第一文本对应有文本标签，所述文本标签从多个候选类别中确定；利用所述编码网络处理所述第一文本，得到第一语义向量；经由图卷积网络处理类别层级关系网络，得到各个候选类别分别对应的各个类别表达向量，所述类别层级关系网络包括与各个候选类别一一对应的各个节点，具有直接上下级关系的候选类别之间由连接边连接，各个节点分别对应有相应类别特征向量作为初始的节点表达向量，所述图卷积网络用于对各个节点分别进行邻居节点的节点表达向量聚合，以更新相应的节点表达向量，各个类别表达向量分别为经所述图卷积网络最后一层更新后的相应节点表达向量；经由所述融合层，基于所述第一语义向量融合各个类别表达向量，得到针对所述第一文本的第一融合向量；通过所述全连接层，基于所述第一融合向量与所述第一语义向量，得到针对所述第一文本所属分类类别的第一预测结果；以所述第一预测结果与所述文本标签相一致为目标，调整所述编码网络、所述图卷积网络、融合层、全连接层中的模型参数，从而训练所述业务模型。

根据一个实施例，所述第一文本对应有多个层级的候选类别，所述文本标签是其中最低层级的候选类别。

根据一个实施例，所述第一语义向量与所述类别表达向量的维数均为s，所述经由所述融合层，基于所述第一语义向量融合各个类别表达向量，得到针对所述第一文本的第一融合向量包括：根据所述第一语义向量与各个类别表达向量的对比，确定各个类别表达向量分别与所述第一语义向量的各个第一相似度；利用各个第一相似度对各个类别表达向量加权求和，得到所述第一融合向量，其中，各个类别表达向量的权重与相应的第一相似度正相关。