[发明专利]语义识别方法、装置、电子设备及计算机可读存储介质在审
| 申请号: | 201911330528.4 | 申请日: | 2019-12-20 |
| 公开(公告)号: | CN111125331A | 公开(公告)日: | 2020-05-08 |
| 发明(设计)人: | 王炳乾 | 申请(专利权)人: | 京东方科技集团股份有限公司 |
| 主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/36;G06F40/295;G06F40/30;G06N3/04 |
| 代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁;宋海斌 |
| 地址: | 100015 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 语义 识别 方法 装置 电子设备 计算机 可读 存储 介质 | ||
本申请实施例提供了一种语义识别方法、装置、电子设备及计算机可读存储介质,该语义识别方法包括:获取待识别的目标语句并输入基于双向编码器表征模型;运行基于双向编码器表征模型,确定目标语句的实体信息和意图信息;根据实体信息和意图信息,确定目标语句的涵义。本申请提供的语义识别方法通过基于双向编码器表征模型,在识别出目标语句的实体信息同时,识别出意图信息,改变了人工智能领域中对于自然语言的语义识别的处理结构,将原本两步式的处理方式改进为单步式处理方式,较大程度上提高了人工智能对于语句含义的识别效率。
技术领域
本申请涉及人工智能技术领域,具体而言,本申请涉及一种语义识别方法、装置、电子设备及计算机可读存储介质。
背景技术
随着人工智能领域中自然语言处理的相关技术的突破,智能语音问答已经在越来越多的领域(百科、医疗、金融、旅游等)扮演重要的角色,问答形式也逐渐趋于多样化,如基于FAQ(Frequently Asked Questions,常问问题)的问答、基于知识库的问答或基于知识图谱的问答等。
“实体识别”和“意图理解”是问答中对于问题语句理解的重要环节,现有的问答大多将这两个环节当成两个子任务来处理,即先识别用户传入问题中存在的实体,然后理解表达该问题的问句想要表达的意图,最后根据识别出的实体和意图返回对应的答案。上述过程中,实体识别常采用户字典分词(实体词库),或者基于有监督的大规模语料标注的深度学习方法进行序列标注等方法,意图理解则采用问题的相似度匹配等。这种两步式的处理方式由于结构上天然存在两个过程,会在很大程度上影响问题语句含义的识别效率。
发明内容
本申请针对现有方式的缺点,提出一种语义识别方法、装置、电子设备及计算机可读存储介质,用以解决现有技术存在语句含义识别效率低的技术问题。
第一个方面,本申请实施例提供了一种语义识别方法,包括:
获取待识别的目标语句并输入基于双向编码器表征模型;
运行基于双向编码器表征模型,确定目标语句的实体信息和意图信息;
根据实体信息和意图信息,确定目标语句的涵义。
在第一个方面的某些实现方式中,基于双向编码器表征模型是通过下述方式预先训练得到的,包括:
获取若干样本语句,样本语句包含以若干类特征标记分别进行分类标记的字段;
根据各样本语句、以及基于双向编码器表征模型的训练模型,确定基于双向编码器表征模型;基于双向编码器表征模型的训练模型为在基于双向编码器表征模型的最后一层之后加上预定任务分类层。
结合第一个方面和上述实现方式,在第一个方面的某些实现方式中,特征标记包括实体类别标记和意图类别标记;
获取若干样本语句,样本语句包含以若干类特征标记分别进行分类标记的字段的步骤,包括:
将样本语句中实体信息对应的字段,标记为实体标记数据,将样本语句中意图信息对应的字段,标记为意图标记数据;
实体标记数据和意图标记数据之间以预设符号间隔。
结合第一个方面和上述实现方式,在第一个方面的某些实现方式中,根据各样本语句、以及基于双向编码器表征模型的训练模型,确定基于双向编码器表征模型的步骤,包括:
将每个样本语句输入训练模型,使得样本语句的意图标记数据,转化成训练模型中最后一个意图分类层池化后输出的意图特征,并使得样本语句的实体标记数据,转化成训练模型中最后一个实体分类层输出的实体特征;
根据样本语句的意图特征、以及最后一个意图分类层的加权参数矩阵和偏置参数,确定出样本语句的意图预测结果;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东方科技集团股份有限公司,未经京东方科技集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911330528.4/2.html,转载请声明来源钻瓜专利网。





