[发明专利]用于输出信息的方法和装置

说明书

本公开的实施例公开了用于输出信息的方法和装置。该方法的一具体实施方式包括：基于从目标知识体系获得的至少一对上下位词扩展概念体系，其中，概念体系是预先构建的有向无环图结构的树状概念层次网络，有向无环图中的节点是概念，节点间的边是可传递的概念上下位关系；基于扩展后的概念体系构造训练样本；基于扩展后的概念体系构建概念转向量模型；基于训练样本训练概念转向量模型，输出训练好的每个概念的特征向量。该实施方式解决了将概念体系的树状层次结构嵌入到向量空间的问题，同时通过引入外部词类信息的方式，补充概念体系中的上下位关系，解决概念体系中上下位不足导致的概念特征训练不充分的问题。

技术领域

本公开的实施例涉及计算机技术领域，具体涉及输出信息的方法和装置。

背景技术

概念体系是现实知识的树形结构表示，它主要描述了词的上下位关系，如“演员”的上位是“人物”，“电影”的上位是“作品”等。实际上概念体系难以做到完全覆盖现实世界的知识，其中会存在一些概念的上下位不够丰富，如一些领域专业术语等。

在文本处理任务中，文本特征需要具备较好的泛化性能，即相似但不同的两个文本需要具有相似的语义特征，从而在文本处理任务中引入语义信息，提高算法的效果。概念体系之中，概念的层级结构即代表了语义结构，将概念层级结构嵌入到向量空间中，可以使之捕捉到上下位相似性，则可以在文本处理任务中引入上下位特征，从而提高文本处理算法的泛化能力。

概念关系特征表示目前普遍采用如下三种方案来解决：

方案(1)基于上下文语料训练词向量，通过词语在语料中的上下文共现信息计算词语的相似性。不能捕捉到概念的层次泛化关系。

方案(2)基于知识图谱训练实体向量，通过知识图谱中三元组共现信息计算实体的相似性。同样不能捕捉到概念的层次泛化关系。

方案(3)虽然能捕捉到概念层次的泛化关系，但当收录不足时，其底层节点难以训练充分，这些节点的向量表示难以准确学习到概念体系的层次泛化关系。

发明内容

本公开的实施例提出了用于输出信息的方法和装置。

第一方面，本公开的实施例提供了一种用于输出信息的方法，包括：基于从目标知识体系获得的至少一对上下位词扩展概念体系，其中，概念体系是预先构建的有向无环图结构的树状概念层次网络，有向无环图中的节点是概念，节点间的边是可传递的概念上下位关系；基于扩展后的概念体系构造训练样本；基于扩展后的概念体系构建概念转向量模型；基于训练样本训练概念转向量模型，输出训练好的每个概念的特征向量。

在一些实施例中，基于从目标知识体系获得的至少一对上下位词扩展概念体系，包括：将百科数据的上位体系与概念体系直接映射，构造至少一对上下位词直接补充到概念体系中。

在一些实施例中，基于从目标知识体系获得的至少一对上下位词扩展概念体系，包括：从专业资料中获取垂直领域的知识体系，利用上位预测模型或文本匹配等方式关联到概念体系的节点上，将之补充到概念体系中。

在一些实施例中，基于从目标知识体系获得的至少一对上下位词扩展概念体系，包括：从搜索文本中挖掘词汇，使用序列标注模型预测这些词汇的概念上位，并去掉命名实体，筛选结果补充到概念体系中。

在一些实施例中，基于扩展后的概念体系构造训练样本，包括：将有向无环图转换成概念体系树；根据概念体系树的每个节点的最相似节点集以及节点的上下位关系，构造每个节点与概念体系树中其他节点的相似度的偏序关系；基于上述偏序关系，对于每一个节点，构造该节点的采样集合，在该节点的采样集合中采样得到该节点的训练样本。

在一些实施例中，在该节点的采样集合中采样得到该节点的训练样本，包括：若该节点的后代节点集中节点数量不小于最少样本量，则将该节点的后代节点集作为该节点的训练样本；否则，根据偏序关系补充训练样本。