[发明专利]多轮问答系统意图分类和命名实体识别的研究方法在审
申请号: | 202111238190.7 | 申请日: | 2021-10-25 |
公开(公告)号: | CN113961687A | 公开(公告)日: | 2022-01-21 |
发明(设计)人: | 冯卫森;冯落落;尹青山;高明;王建华 | 申请(专利权)人: | 山东新一代信息产业技术研究院有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F40/295 |
代理公司: | 济南泉城专利商标事务所 37218 | 代理人: | 刘德 |
地址: | 250013 山东省济南市高新*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 问答 系统 意图 分类 命名 实体 识别 研究 方法 | ||
1.一种多轮问答系统意图分类和命名实体识别的研究方法,其特征在于:包括以下步骤:
1)在进行意图分类时,通过对话状态追踪模块,将上下文的历史信息作为输入,传入了意图分类预测模型;
2)在命名实体识别预测时,将本轮的意图识别结果作为特征,传入命名实体预测模型;
3)将命名实体识别和意图分类通过一个多任务模型进行训练,并根据前两点的需要,对模型进行改进。
2.根据权利要求1所述多轮问答系统意图分类和命名实体识别的研究方法,其特征在于:使用Bert模型的多任务架构,Bert在输入的每句话的开头添加[CLS]标识位,该标示位作为意图分类的预测结果,在Bert的输出层上,增加条件随机场CRF作为命名实体识别的预测输出,并将意图分类的隐藏层信息作为输入,作为命名实体识别预测的一部分。
3.根据权利要求2所述多轮问答系统意图分类和命名实体识别的研究方法,其特征在于:具体包括如下步骤:
S1.将DM模块中DST上下文数据,作为Bert模型的输入之一;
S2.将命名实体识别模块和意图分类模块使用Bert多任务进行融合处理;
S3.将意图分类结果状态,作为输入传输给CRF模型预测。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东新一代信息产业技术研究院有限公司,未经山东新一代信息产业技术研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111238190.7/1.html,转载请声明来源钻瓜专利网。