[发明专利]机器阅读理解的实现方法、装置、存储介质及电子设备有效
| 申请号: | 201910783241.0 | 申请日: | 2019-08-23 | 
| 公开(公告)号: | CN110543631B | 公开(公告)日: | 2023-04-28 | 
| 发明(设计)人: | 杨志明 | 申请(专利权)人: | 深思考人工智能科技(上海)有限公司 | 
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/279 | 
| 代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 郑红娟;宋志强 | 
| 地址: | 201210 上海市浦东新区中国(上*** | 国省代码: | 上海;31 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 机器 阅读 理解 实现 方法 装置 存储 介质 电子设备 | ||
1.一种机器阅读理解的实现方法,其特征在于,包括:
获取问题和针对所述问题的备选答案集,并将所述问题的文本与每个备选答案的文本分别进行拼接,得到至少一个备选文本;其中,所述备选答案集包含至少一个所述备选答案;
针对每个备选文本,提取该备选文本的内部特征,并根据获取的外部属性信息提取该备选文本的外部特征,并根据所述内部特征和外部特征,得到该备选文本的备选特征;
将每个所述备选特征输入预先训练的阅读理解模型中,得到至少一个备选答案片段和每个备选答案片段各自的初始选择概率;
针对每个所述备选答案片段,提取该备选答案片段的文本特征和语义特征,根据每个所述备选答案片段的所述文本特征、所述语义特征和所述初始选择概率在每个所述备选答案片段之间进行交互选择,确定目标答案;
其中,所述提取该备选文本的内部特征的步骤包括:
分别提取该备选文本的文本特征、词语位置特征和文本类型特征,所述该备选文本的文本特征采用词嵌入方式得到;
将所述文本特征、所述词语位置特征和所述文本类型特征进行拼接,得到该备选文本的所述内部特征;
所述外部属性信息包括:所述备选文本中包含的备选答案在所述备选答案集中的位置信息、所述备选文本中包含的备选答案的来源信息、所述问题的问题类型和所述备选答案的标题信息;
所述根据获取的外部属性信息提取该备选文本的外部特征的步骤包括:
将每个所述外部属性信息进行拼接得到拼接后的外部属性信息,并提取所述拼接后的外部属性信息的属性特征,将所述属性特征作为所述外部特征。
2.根据权利要求1所述的方法,其特征在于,所述将每个所述外部属性信息进行拼接得到拼接后的外部属性信息的步骤包括:
判断每个所述外部属性信息中是否包含非字符信息,当包含所述非字符信息时,将所述外部属性信息中的所述非字符信息转换为字符信息后,将每个所述外部属性信息进行拼接得到拼接后的外部属性信息。
3.根据权利要求1所述的方法,其特征在于,所述提取所述拼接后的外部属性信息的属性特征,将所述属性特征作为所述外部特征的步骤包括:
采用具有自注意力机制的转换器模型从所述拼接后的外部属性信息中提取两个以上属性特征;
将所述两个以上属性特征中的第一所述属性特征作为所述外部特征。
4.根据权利要求1所述的方法,其特征在于,所述针对每个所述备选答案片段,提取该备选答案片段的文本特征和语义特征,根据每个所述备选答案片段的所述文本特征、所述语义特征和所述初始选择概率在每个所述备选答案片段之间进行交互选择,确定目标答案的步骤包括:
针对每个备选答案片段,根据该备选答案片段的文本特征和该备选答案片段的初始选择概率,确定文本选择特征;
根据该备选答案片段的语义特征和该备选答案片段的初始选择概率,确定语义选择特征;
对所述文本选择特征和所述语义选择特征进行拼接,得到该备选答案片段的选择特征;
提取所述问题的特征,并将所述问题的特征与每个备案答案片段的选择特征进行拼接后,输入预先训练的交互选择模型中,分别确定每个备选答案片段的最终选择概率;
将所述最终选择概率最大的所述备选答案片段确定为所述目标答案。
5.根据权利要求4所述的方法,其特征在于,还包括所述交互选择模型基于如下步骤进行训练:
获取答案片段样本集;所述答案片段样本集中包含至少一个问题样本,每个问题样本对应至少一个备选答案片段样本;
计算所述答案片段样本集中每个备选答案片段样本的ROUGE-L值;
针对所述答案片段样本集中的每个问题,为该问题对应的每个所述备选答案片段中ROUGE-L值最大的备选答案片段标记最佳答案标签;
以标记了最佳答案标签的答案片段样本集为样本,对所述交互选择模型进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深思考人工智能科技(上海)有限公司,未经深思考人工智能科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910783241.0/1.html,转载请声明来源钻瓜专利网。





