[发明专利]一种词扩展方法、装置、设备及介质

权利要求书

1.一种词扩展方法，其特征在于，包括：

获取待扩展的种子词以及获取所述种子词的上下文，所述种子词的上下文为自然语句中除掉所述种子词之后剩余的部分，所述种子词的上下文中包括所述种子词对应的占位符；

根据所述种子词以及所述种子词的上下文，通过词扩展模型获取输出向量，所述输出向量用于表征候选词库中各候选词与所述种子词的语义相似度；所述词扩展模型是神经网络模型，其用于根据种子词对应的词向量以及上下文向量，预测所述候选词库中各候选词与种子词之间的语义相似度；其中，所述种子词对应的词向量上拼接有位置向量，所述位置向量是根据所述种子词与占位符之间的相对位置关系确定的，或者，所述上下文向量是对所述种子词的上下文中占位符左边和右边的内容分别进行编码得到的；所述词扩展模型是基于种子词、种子词的上下文以及种子词对应的真实扩展词进行训练得到的；

根据所述输出向量从所述候选词库中确定所述种子词的扩展词，使所述种子词的扩展词符合所述种子词的上下文语境；

所述基于种子词、种子词的上下文以及种子词对应的真实扩展词进行训练，包括：

从自然语料中筛选满足训练条件的语句，所述满足训练条件的语句是包括至少两个同类词的自然语句；

从所述满足训练条件的语句中提取上下文和下位词集合，所述下位词集合中至少包括两个下位词，所述下位词集合中的下位词均为同类词；

将所述下位词集合中的一个下位词作为一个种子词，将所述下位词集合中除去所述一个下位词之外的其他下位词作为所述一个种子词对应的真实扩展词；

将所述一个种子词及其上下文以及所述一个种子词对应的真实扩展词，作为一个样本；

根据所述自然语料中各语句各自对应的样本生成样本训练集；

将训练样本集中的种子词以及种子词的上下文输入初始神经网络模型，获取所述初始神经网络模型输出的预测概率向量，所述预测概率向量是利用与样本对应的标签子集对样本进行预测得到的；其中，与样本对应的标签子集是针对样本从标签库中提取一个子集，所述标签子集中包括与样本相关的真实扩展词以及与样本不相关的候选词；

根据所述预测概率向量和所述标签子集的真实概率向量，计算损失函数，以最小化损失函数为训练目标，更新所述初始神经网络模型中的参数，直至神经网络达到收敛，得到词扩展模型。

2.根据权利要求1所述的方法，其特征在于，所述词扩展模型包括：输入层和预测层；其中，

所述输入层包括：种子词编码器和上下文编码器；

所述种子词编码器以种子词作为输入且以种子词对应的词向量作为输出；所述上下文编码器以种子词的上下文作为输入，以种子词对应的上下文向量作为输出；

所述预测层包括：全连接层和分类层；

所述全连接层以种子词的语义特征向量作为输入，以包括候选词库中各候选词与种子词之间的特征相似度的相似度向量作为输出；其中，所述种子词的语义特征向量是根据所述词向量和所述上下文向量拼接生成的向量；

所述分类层以所述相似度向量作为输入，以对所述相似度向量归一化后的概率向量作为所述词扩展模型的输出向量。

3.根据权利要求1所述的方法，其特征在于，所述根据所述输出向量从所述候选词库中确定所述种子词的扩展词，包括：

根据所述输出向量中元素值的降序排序顺序，从所述候选词库中选择排序靠前的M个元素所对应的候选词，作为所述种子词的扩展词；其中，M为扩展词个数阈值。

4.根据权利要求1所述的方法，其特征在于，所述获取待扩展的种子词以及获取所述种子词的上下文，包括：

获取查询语句，所述查询语句是指在搜索引擎中输入的用于查询信息的搜索条件；

从所述查询语句中提取关键词，作为待扩展的种子词，以及，从所述查询语句中提取所述种子词的上下文；

则所述方法还包括：

根据所述种子词的扩展词进行信息搜索，以返回搜索结果。