[发明专利]基于标签的优化模型训练方法、装置、设备及存储介质在审
申请号: | 202011353108.0 | 申请日: | 2020-11-27 |
公开(公告)号: | CN112464637A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 邓悦;郑立颖;徐亮 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F40/194 | 分类号: | G06F40/194;G06F40/166;G06N3/08 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 姚维 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 标签 优化 模型 训练 方法 装置 设备 存储 介质 | ||
本发明涉及人工智能领域,公开了一种基于标签的优化模型训练方法、装置、设备及存储介质,用于提高目标优化模型的优化灵活性以及优化文本的准确率。基于标签的优化模型训练方法包括:获取原始文本数据和比对文本数据;将原始文本数据输入预置的编码器中,得到目标内容隐藏层向量组;根据目标内容隐藏层向量组和解码器,得到目标标签组;基于目标标签组训练初始优化模型;根据原始文本数据和初始优化模型,得到待检测文本数据,并判断待检测文本数据是否与比对文本数据相匹配;若目标待检测文本数据与比对文本数据不匹配,则调整初始优化模型,得到目标优化模型,此外,本发明还涉及区块链技术,待检测文本数据可存储于区块链中。
技术领域
本发明涉及神经网络技术领域,尤其涉及一种基于标签的优化模型训练方法、装置、设备及存储介质。
背景技术
在目前的招聘流程中,很多公司为了简化招聘流程和提高工作效率,采用人工智能面试系统进行面试,主要通过语音识别的方式将面试者的语音转化成文本,在将语音转化为文本的过程中会存在单词和句子识别错误的情况,所以还需要用到识别优化模型对文本修正语法以及调整语句通顺度。
目前识别优化模型修正语法和调整语句通顺度的方法是训练特定任务的训练器,然后采用该训练器对文本进行语法的修正和语句通顺度的调整,但是这种调整方式只适用于特定的任务,无法对其他的任务进行优化,识别优化模型的灵活性较低,而且会降低其他任务转化为文本的准确率。
发明内容
本发明提供了一种基于标签的优化模型训练方法、装置、设备及存储介质,提高了识别优化模型的灵活性,而且提高了其他任务转化为文本的准确率。
本发明第一方面提供了一种基于标签的优化模型训练方法,包括:获取多个原始文本数据和多个比对文本数据,一个原始文本数据对应一个比对文本数据;将每个原始文本数据输入预置的编码器中,基于自注意力机制和询问注意力机制,得到多个目标内容隐藏层向量组;将每个目标内容隐藏层向量组输入预置的解码器中,结合自回归机制进行标签计算,得到多个目标标签组;基于所述多个目标标签组训练模型,得到初始优化模型;将所述多个原始文本数据依次输入所述初始优化模型中,得到多个待检测文本数据,并判断每个待检测文本数据是否与对应的比对文本数据相匹配;若目标待检测文本数据与对应的比对文本数据不匹配,则调整所述初始优化模型的参数,得到目标优化模型。
可选的,在本发明第一方面的第一种实现方式中,所述将每个原始文本数据输入预置的编码器中,基于自注意力机制和询问注意力机制,得到多个目标内容隐藏层向量组包括:从每个原始文本数据中提取对应的原始文本序列;将每个原始文本序列输入预置的编码器中,基于注意力掩码机制和每个原始文本序列确定对应的输入序列;基于自注意力机制和询问注意力机制对每个输入序列进行隐藏层计算,生成对应的内容隐藏层向量组,得到多个目标内容隐藏层向量组。
可选的,在本发明第一方面的第二种实现方式中,所述将每个原始文本序列输入预置的编码器中,基于注意力掩码机制和每个原始文本序列确定对应的输入序列包括:将每个原始文本序列输入预置的编码器中,结合注意力掩码机制对每个原始文本序列进行多次迭代预测,得到对应的多个位置掩码;整合每个原始文本序列对应的多个位置掩码,得到每个原始文本序列对应的输入序列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011353108.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:基于多核多处理器并行系统的全局信号量实现方法
- 下一篇:装夹工装和焊接系统