[发明专利]消歧方法、消歧模型的训练方法及装置

权利要求书

1.一种消歧方法，其特征在于，所述方法包括：

获取目标文本，所述目标文本包括至少一个目标对象；所述目标对象具有多个读音；

获取所述目标文本的编码；

对所述目标文本的编码进行向量化处理，得到所述目标文本的向量；

基于自注意力机制对所述目标文本的向量进行处理，以学习所述目标文本的上下文特征；

基于所述目标文本中所述目标对象的位置信息进行加权计算，得到第一中间向量，以学习所述目标对象与所述目标文本中除所述目标对象之外的字符之间的关联特征；

将所述第一中间向量的分布式特征映射到样本标记空间，得到第二中间向量，对所述第二中间向量进行分类，得到分类张量，所述分类张量包括多个分类项中每个分类项对应的第一概率，所述分类项对应的第一概率表征预测出的所述目标对象的读音为所述分类项的概率；

基于掩码张量对多个所述分类项分别对应的第一概率进行掩码处理，得到多个所述分类项分别对应的第二概率；多个所述分类项分别对应的第二概率用于确定所述目标对象的读音预测结果；多个所述分类项中目标对象正确读音对应的第二概率大于所述目标对象正确读音对应的第一概率，多个所述分类项中目标对象错误读音对应的第二概率小于所述目标对象错误读音对应的第一概率；所述目标对象错误读音包括多个所述分类项中除第一概率最大的分类项之外的读音。

2.根据权利要求1所述的方法，其特征在于，所述基于掩码张量对多个所述分类项分别对应的第一概率进行掩码处理，得到多个所述分类项分别对应的第二概率，包括：

获取所述掩码张量，所述掩码张量包括多个所述分类项分别对应的掩码估计值，其中，所述目标对象正确读音对应的掩码估计值大于1，且所述目标对象错误读音对应的掩码估计值大于或等于0，且小于1；

针对多个所述分类项中的每一分类项，将所述分类项对应的掩码估计值与所述分类项对应的第一概率相乘，得到所述分类项对应的第二概率。

3.根据权利要求2所述的方法，其特征在于，所述获取所述掩码张量，包括：

获取所述目标文本的向量；

从所述目标文本的向量中提取所述目标对象对应的向量；

对所述目标对象对应的向量进行非线性映射，得到多个所述分类项分别对应的掩码估计值。

4.根据权利要求1至3任一项所述的方法，其特征在于，通过消歧模型对所述目标文本的编码进行处理以及基于掩码张量对多个所述分类项分别对应的第一概率进行掩码处理，所述消歧模型包括预测模块和掩码模块，所述预测模块被配置为：对所述目标文本的编码进行处理，得到多个分类项分别对应的第一概率，所述掩码模块，被配置为基于掩码张量对多个所述分类项分别对应的第一概率进行掩码处理，得到多个所述分类项分别对应的第二概率。

5.根据权利要求4所述的方法，其特征在于，所述预测模块包括自注意力子模块和加权计算子模块；

所述自注意力子模块，被配置为：基于自注意力机制对所述目标文本的向量进行处理，以学习所述目标文本的上下文特征，所述目标文本的向量；

所述加权计算子模块，被配置为：基于所述目标文本中所述目标对象的位置信息进行加权计算，以学习所述目标对象与所述目标文本中除所述目标对象之外的字符之间的关联特征。

6.根据权利要求4所述的方法，其特征在于，所述消歧模型通过如下方法训练：

获取多个训练文本，多个所述训练文本中的每个训练文本包括训练对象，所述训练对象标注有正确读音；

针对每一所述训练文本，通过初始模型对所述训练文本进行处理，输出所述训练文本中训练对象的预测读音；

从所述初始模型中的掩码模块获取掩码估计值，基于所述掩码估计值和掩码真值获取第一损失；

通过所述预测读音与所述训练文本中训练对象的正确读音获取第二损失；

通过所述第一损失和所述第二损失对所述初始模型的参数进行迭代，得到所述消歧模型。