[发明专利]信息识别方法、装置、计算机系统及可读存储介质在审
申请号: | 202110186799.8 | 申请日: | 2021-02-10 |
公开(公告)号: | CN113779240A | 公开(公告)日: | 2021-12-10 |
发明(设计)人: | 周彬 | 申请(专利权)人: | 北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 孙蕾 |
地址: | 100176 北京市大兴区北京经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 信息 识别 方法 装置 计算机系统 可读 存储 介质 | ||
1.一种文本信息识别模型的训练方法,包括:
获取训练样本数据集,其中,所述训练样本数据集中的训练样本包括文本信息及每个文本信息对应的初始类别标签,其中,所述文本信息至少包括目标关键词,所述初始类别标签用于表征所述文本信息为违规信息或者合规信息;
构建初始文本信息识别模型,其中,所述初始文本信息识别模型包括空洞卷积网络模块和双向长短期记忆网络模块;以及
基于所述训练样本数据集对所述初始文本信息识别模型进行训练,得到文本信息识别模型。
2.根据权利要求1所述的方法,其中,所述基于所述训练样本数据集对所述初始文本信息识别模型进行训练,得到文本信息识别模型包括:
基于所述训练样本数据集中的训练样本,构建所述初始文本信息识别模型的损失函数;其中,所述损失函数包括均方错误误差函数;
将所述训练样本输入至所述初始文本信息识别模型中,得到预测类别标签;
将所述预测类别标签与所述初始类别标签输入所述损失函数,得到损失结果;
根据所述损失结果调整所述初始文本信息识别模型中的参数,直到所述损失函数收敛;以及
将所述损失函数收敛时对应的模型作为所述文本信息识别模型。
3.根据权利要求2所述的方法,其中,所述初始文本信息识别模型还包括特征向量表征网络、注意力机制层、输出层;
所述将所述训练样本输入至所述初始文本信息识别模型中,得到预测类别标签包括:
利用所述特征向量表征网络处理所述训练样本的文本信息,得到第一中间特征;
利用所述空洞卷积网络模块处理所述第一中间特征,得到第二中间特征;
利用所述双向长短期记忆网络模块处理所述第一中间特征,得到第三中间特征;
利用所述注意力机制层处理所述第二中间特征和所述第三中间特征,得到第四中间特征;以及
利用所述输出层处理所述第四中间特征,得到所述预测类别标签。
4.根据权利要求3所述的方法,其中,所述空洞卷积网络模块包括依次串联的M个组合网络以及自注意力机制层,其中,所述组合网络包括并联的空洞卷积网络、池化层和归一化处理层;所述M为大于等于1的整数;
其中,所述双向长短期记忆网络模块包括依次串联的N个双向长短期记忆网络和自注意力机制层,其中,所述N为大于等于1的整数;
其中,所述输出层包括依次串联的全局池化层和X层线性层,其中X为大于等于1的整数。
5.根据权利要求2所述的方法,其中,所述将所述预测类别标签与所述初始类别标签输入所述损失函数,得到损失结果包括:
基于所述预测类别标签与所述初始类别标签,通过均方错误误差函数分别计算违规信息类别的第一损失和合规信息类别的第二损失;以及
基于所述第一损失和所述第二损失,确定所述损失函数的损失。
6.根据权利要求1所述的方法,还包括:
将所述训练样本输入至所述文本信息识别模型中,得到所述训练样本的预测类别标签;
将所述预测类别标签与所述训练样本的初始类别标签进行匹配,得到匹配结果,其中,所述匹配结果用于表征所述预测类别标签与所述初始类别标签是否一致;
在表征所述预测类别标签与所述初始类别标签一致的匹配结果数量满足预设条件的情况下,得到所述文本信息识别模型;
在表征所述预测类别标签与所述初始类别标签一致的匹配结果数量不满足所述预设条件的情况下,修改与所述预测类别标签不一致的初始类别标签;以及
基于修改标签后的训练样本训练所述文本信息识别模型。
7.根据权利要求1所述的方法,所述获取训练样本数据集包括:
基于所述目标关键词获取电商平台中的初始文本信息;
对所述初始文本信息进行数据处理,得到所述文本信息;
利用先验知识对所述文本信息进行打标,得到所述文本信息的初始类别标签;以及
基于所述文本信息和所述初始类别标签,得到训练样本数据集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司,未经北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110186799.8/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置