[发明专利]一种文本还原方法、装置及电子设备在审
| 申请号: | 201811248320.3 | 申请日: | 2018-10-25 |
| 公开(公告)号: | CN109597987A | 公开(公告)日: | 2019-04-09 |
| 发明(设计)人: | 周书恒;刘金星;祝慧佳;赵智源;郭亚 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
| 主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F16/9032 |
| 代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新;朱文杰 |
| 地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 分词 文本 匹配 还原 目标文本 装置及电子设备 置信度 拆字 分词处理 获取目标 语言模型 样本集 预设 取出 申请 | ||
本申请实施例涉及一种文本还原方法、装置及电子设备。文本还原方法包括:获取目标文本;对所述目标文本进行分词处理,得到所述目标文本分词后的分词文本,所述分词文本包含无法组成分词的字符;基于拆字样本集,对所述分词文本中无法组成分词的字符进行匹配,得到至少一种匹配后分词文本;将所述至少一组匹配后分词文本输入预设语言模型,得到所述至少一组匹配后分词文本的置信度;基于所述至少一组匹配后分词文本的置信度,从所述至少一种匹配后分词文本中选取出所述目标文本的还原文本。
技术领域
本申请实施例涉及网络安全技术领域,尤其涉及一种文本还原方法、装置及电子设备。
背景技术
随着互联网的兴起,信息传递的便捷性使得互联网信息量成几何级增长。用户常常会收到互联网灰黑产发送的垃圾信息,比如推销信息、诈骗信息、非法宣传信息等。对于这些垃圾信息,一般可以通过网络平台进行拦截。然而,目前灰黑产为了绕过平台的各种防控手段,会以拆字表达的方式传播垃圾信息。比如正常内容是“我是闪电借款,可以强开借呗5000-10000w”,通过拆字方式表达为“我是闪电亻昔款,可以弓虽开亻昔呗5000-10000w”。
有鉴于此,为了提高网络平台针对垃圾信息的识别能力,如何将拆字表达的变异文本还原回正常文本,是本申请所要解决的技术问题。
发明内容
本申请实施例目的是提供一种文本还原方法、装置及电子设备,能够将拆字表达的变异文本还原回正常文本。
为了实现上述目的,本申请实施例是这样实现的:
第一方面,提供一种文本还原方法,包括:
获取目标文本;
对所述目标文本进行分词处理,得到所述目标文本分词后的分词文本,所述分词文本包含无法组成分词的字符;
基于拆字样本集,对所述分词文本中无法组成分词的字符进行匹配,得到至少一种匹配后分词文本;
将所述至少一组匹配后分词文本输入预设语言模型,得到所述至少一组匹配后分词文本的置信度;
基于所述至少一组匹配后分词文本的置信度,从所述至少一种匹配后分词文本中选取出所述目标文本的还原文本。
第二方面,提供了一种文本还原装置,包括:
获取模块,获取目标文本;
分词模块,对所述目标文本进行分词处理,得到所述目标文本分词后的分词文本,所述分词文本包含无法组成分词的字符;
匹配模块,基于拆字样本集,对所述分词文本中无法组成分词的字符进行匹配,得到至少一种匹配后分词文本;
评估模块,将所述至少一组匹配后分词文本输入预设语言模型,得到所述至少一组匹配后分词文本的置信度;
选取模块,基于所述至少一组匹配后分词文本的置信度,从所述至少一种匹配后分词文本中选取出所述目标文本的还原文本。
第三方面,提供了一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行:
获取目标文本;
对所述目标文本进行分词处理,得到所述目标文本分词后的分词文本,所述分词文本包含无法组成分词的字符;
基于拆字样本集,对所述分词文本中无法组成分词的字符进行匹配,得到至少一种匹配后分词文本;
将所述至少一组匹配后分词文本输入预设语言模型,得到所述至少一组匹配后分词文本的置信度;
基于所述至少一组匹配后分词文本的置信度,从所述至少一种匹配后分词文本中选取出所述目标文本的还原文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811248320.3/2.html,转载请声明来源钻瓜专利网。





