[发明专利]一种web网页的正文内容提取方法、装置、设备及介质在审
| 申请号: | 202010032139.X | 申请日: | 2020-01-13 |
| 公开(公告)号: | CN111241446A | 公开(公告)日: | 2020-06-05 |
| 发明(设计)人: | 马晓峰;范渊 | 申请(专利权)人: | 杭州安恒信息技术股份有限公司 |
| 主分类号: | G06F16/958 | 分类号: | G06F16/958;G06K9/62;H04L29/08 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 郄晨芳 |
| 地址: | 310000 浙江省*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 web 网页 正文 内容 提取 方法 装置 设备 介质 | ||
1.一种web网页的正文内容提取方法,其特征在于,包括:
根据目标web网页的源代码确定出与所述目标web网页对应的DOM树;其中,所述DOM树的叶子节点表示所述目标web网页中的网页内容;
按照预设规则对各所述网页内容进行监听埋点,并统计用户对各所述网页内容的操作信息;
利用预先训练出的决策树根据文本密度规则、所述目标web网页的页面布局、各所述网页内容对应的操作信息分别判断各所述网页内容是否为正文内容,提取出所述目标web网页的正文内容。
2.根据权利要求1所述的方法,其特征在于,在所述根据目标web网页的源代码确定出与所述目标web网页对应的DOM树之后,进一步包括:
判断所述网页内容中是否存在敏感词汇;
若是,则发出对应的提示信息。
3.根据权利要求1所述的方法,其特征在于,所述统计用户对各所述网页内容的操作信息具体包括:
统计所述用户浏览各所述网页内容的时间长度和/或所述用户对各所述网页内容的点选操作的次数和/或所述用户在各所述网页内容上进行的输入操作的次数。
4.根据权利要求1所述的方法,其特征在于,在所述根据目标web网页的源代码确定出与所述目标web网页对应的DOM树之后,进一步包括:
对所述DOM树中的网页内容进行数据清洗操作。
5.根据权利要求3所述的方法,其特征在于,在所述按照预设规则对各所述网页内容进行监听埋点,并统计用户对各所述网页内容的操作信息之后,进一步包括:
确定出所述用户浏览时间最长和/或输入操作次数最多的目标网页内容;
将所述目标网页内容进行突出显示。
6.根据权利要求2所述的方法,其特征在于,进一步包括:
记录存在所述敏感词汇的所述目标web网页的网址。
7.根据权利要求1至6任一项所述的方法,其特征在于,进一步包括:
根据所述文本密度规则、所述页面布局、所述网页内容和对应的操作信息确定出所述目标web网页的网页类型。
8.一种web网页的正文内容提取装置,其特征在于,包括:
设置模块,用于根据目标web网页的源代码确定出与所述目标web网页对应的DOM树;其中,所述DOM树的叶子节点表示所述目标web网页中的网页内容;
统计模块,用于按照预设规则对各所述网页内容进行监听埋点,并统计用户对各所述网页内容的操作信息;
提取模块,用于利用预先训练出的决策树根据文本密度规则、所述目标web网页的页面布局、各所述网页内容对应的操作信息分别判断各所述网页内容是否为正文内容,提取出所述目标web网页的正文内容。
9.一种web网页的正文内容提取设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述的web网页的正文内容提取方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的web网页的正文内容提取方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州安恒信息技术股份有限公司,未经杭州安恒信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010032139.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种三重圆钢管屈曲约束支撑
- 下一篇:长寿命空气压缩机油组合物
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法





