[发明专利]一种基于深度学习的垃圾文本过滤方法有效
| 申请号: | 201810557803.5 | 申请日: | 2018-06-01 |
| 公开(公告)号: | CN108805132B | 公开(公告)日: | 2021-08-20 |
| 发明(设计)人: | 冯丹;尹祎;施展;苏毅 | 申请(专利权)人: | 华中科技大学 |
| 主分类号: | G06K9/34 | 分类号: | G06K9/34;G06K9/62 |
| 代理公司: | 华中科技大学专利中心 42201 | 代理人: | 李智;曹葆青 |
| 地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 深度 学习 垃圾 文本 过滤 方法 | ||
1.一种基于深度学习的垃圾文本过滤方法,其特征在于,包括:
对待识别文本中的数据进行拆分,在数据拆分的过程中,在每个字符之间填入预设字符,以区别原字符数据和图形数据,并对原字符数据和图形数据的顺序和位置进行标记;
通过第一深度学习算法将拆分出的所述图形数据中包含的文本信息转换为目标字符数据;
将所述目标字符数据与所述待识别文本中的原字符数据按照标记的顺序排序后得到目标文本,然后由第二深度学习算法训练得到的垃圾字符识别模型通过排序后的上下文字符内容识别所述目标文本是否含有垃圾字符;
若所述目标文本中含有垃圾字符,则判断所述目标文本中含有的垃圾字符与云服务器中所设定的垃圾字符及包含设定垃圾字符的文本信息是否匹配,若匹配则识别所述待识别文本为垃圾文本,若不匹配,则识别所述待识别文本不是垃圾文本。
2.根据权利要求1所述的方法,其特征在于,在所述由第二深度学习算法训练得到的垃圾字符识别模型通过排序后的上下文字符内容识别所述目标文本是否含有垃圾字符之前,所述方法还包括:
通过互联网实时更新所述云服务器中所设定的垃圾字符及包含设定垃圾字符的垃圾文本信息;
将所述云服务器中的垃圾文本信息作为训练样本,运用第二深度学习算法进行训练,以此得到垃圾字符识别模型,其中,所述垃圾字符识别模型能够提取出垃圾字符及垃圾字符出现的上下文环境。
3.根据权利要求1所述的方法,其特征在于,所述在数据拆分的过程中,在每个字符之间填入预设字符,包括:
在数据拆分的过程中,对于原字符数据中的首位均以M开始,后续位数由小到大进行递增,对于图形数据的首位均以N开始,后续位数由小到大进行递增,其中,M与N均为整数,且M与N不同。
4.根据权利要求1至3任意一项所述的方法,其特征在于,所述通过第一深度学习算法将拆分出的所述图形数据中包含的文本信息转换为目标字符数据,包括:
将所述图形数据进行色彩提取生成像素值;
将提取色彩后的图形数据绘制电子栅格,提取每个栅格中像素的均值;
将提取栅格后的图形数据运用第一深度学习算法转换成目标字符数据。
5.根据权利要求4所述的方法,其特征在于,所述由第二深度学习算法训练得到的垃圾字符识别模型通过排序后的上下文字符内容识别所述目标文本是否含有垃圾字符,包括:
将所述目标文本按词汇进行划分;
将划分后的目标文本通过由第二深度学习算法训练得到的垃圾字符识别模型判断词汇在相应句中是否属于垃圾字数;
将属于垃圾字符的目标文本视为垃圾文本,进行标记,并将所述目标文本加入云服务器。
6.根据权利要求1所述的方法,其特征在于,所述第一深度学习算法为CNN算法,所述第二深度学习算法为GRU算法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810557803.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:文本行检测方法、装置及系统
- 下一篇:一种主动脉夹层分割模型的构建方法及应用





