[发明专利]一种基于语义的无监督常识问答方法及系统

权利要求书

1.一种基于语义的无监督常识问答方法，其特征在于，包括：

将原始常识问题转换为缺失答案部分的目标陈述句；

将所述目标陈述句输入到预训练语言模型中进行预测，生成多个支撑答案，所述支撑答案为所述目标陈述句中缺失的答案部分；

获取所述原始常识问题对应的多个预设候选答案，并对每个预设候选答案和每个支撑答案进行语义向量化处理，得到每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示；

根据每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示，获取预设候选答案和支撑答案之间的语义相似度，将满足预设条件的语义相似度对应的预设候选答案作为所述原始常识问题的目标答案。

2.根据权利要求1所述的基于语义的无监督常识问答方法，其特征在于，所述根据每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示，获取预设候选答案和支撑答案之间的语义相似度，包括：

基于语义相似度公式，计算预设候选答案和支撑答案之间的语义相似度，所述语义相似度公式为：

其中，ω(S|A)表示支撑答案S和预设候选答案A之间的相似度；T表示温度系数，用于控制相似度得分的分布；cos表示两个向量之间的余弦相似度，exp表示以e为基的指数函数，h_S表示支撑答案S的语义向量表示，h_A表示预设候选答案A的语义向量表示。

3.根据权利要求1所述的基于语义的无监督常识问答方法，其特征在于，所述根据每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示，获取预设候选答案和支撑答案之间的语义相似度，将满足预设条件的语义相似度对应的预设候选答案作为所述原始常识问题的目标答案，包括：

根据每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示，获取每个预设候选答案和所有支撑答案之间的多个语义相似度，并对每个预设候选答案对应的多个语义相似度进行求和平均，获取每个预设候选答案的平均语义相似度；

将平均语义相似度最大值对应的预设候选答案作为原始常识问题的目标答案。

4.根据权利要求1所述的基于语义的无监督常识问答方法，其特征在于，所述预训练语言模型为GPT-2模型。

5.根据权利要求1所述的基于语义的无监督常识问答方法，其特征在于，所述对每个预设候选答案和每个支撑答案进行语义向量化处理，包括：

基于训练好的句子级语义表示模型，分别对预设候选答案和支撑答案进行语义向量化处理，得到对应的语义向量表示，所述训练好的句子级语义表示模型是通过对RoBERTa模型进行训练得到的。

6.一种基于语义的无监督常识问答系统，其特征在于，包括：

原始问题改写模块，用于将原始常识问题转换为缺失答案部分的目标陈述句；

支撑答案预测模块，用于将所述目标陈述句输入到预训练语言模型中进行预测，生成多个支撑答案，所述支撑答案为所述目标陈述句中缺失的答案部分；

语义向量处理模块，用于对每个预设候选答案和每个支撑答案进行语义向量化处理，得到每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示；

候选答案确定模块，用于根据每个预设候选答案的语义向量表示和每个支撑答案的语义向量表示，获取预设候选答案和支撑答案之间的语义相似度，将满足预设条件的语义相似度对应的预设候选答案作为所述原始常识问题的目标答案。

7.根据权利要求6所述的基于语义的无监督常识问答系统，其特征在于，所述候选答案确定模块包括：

语义相似度计算单元，用于基于语义相似度公式，计算预设候选答案和支撑答案之间的语义相似度，所述语义相似度公式为：

其中，ω(S|A)表示支撑答案S和预设候选答案A之间的相似度；T表示温度系数，用于控制相似度得分的分布；cos表示两个向量之间的余弦相似度，exp表示以e为基的指数函数，h_S表示支撑答案S的语义向量表示，h_A表示预设候选答案A的语义向量表示。