[发明专利]页面正文提取方法和装置有效
| 申请号: | 201810554392.4 | 申请日: | 2018-06-01 |
| 公开(公告)号: | CN108874934B | 公开(公告)日: | 2021-11-30 |
| 发明(设计)人: | 熊凡 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
| 主分类号: | G06F16/955 | 分类号: | G06F16/955;G06F16/957 |
| 代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 宋合成 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 页面 正文 提取 方法 装置 | ||
1.一种页面正文提取方法,其特征在于,包括:
根据待处理页面的超文本标记语言代码,确定所述待处理页面对应的节点树,其中,所述节点树中的各节点分别为所述待处理页面中的各页面标签;
根据预设的页面标签与权重值映射关系表,确定所述节点树中各节点对应的初始权重值;
根据所述节点树中各节点间的关系及各节点对应的初始权重值,由末端子节点至根节点,依次更新各父节点的权重值;
根据所述节点树中各节点更新后的权重值,确定所述待处理页面中的正文节点;
根据所述正文节点,获取所述页面中的正文;
所述根据预设的页面标签及权重值,确定所述节点树中各节点对应的初始权重值,包括:
根据所述预设的页面标签与权重值映射关系表,确定所述节点树中各节点是否在所述映射关系表中;
若第一节点在所述映射关系表中,则根据所述映射关系表,确定所述第一节点的初始权重值;
若第二节点未在所述映射关系表中,则根据与所述第二节点关联的其它各节点分别对应的初始权重值,确定所述第二节点对应的初始权重值,其中,所述第二节点对应的初始权重值与各关联节点的初始权重值的差值小于阈值。
2.如权利要求1所述的方法,其特征在于,所述根据预设的页面标签与权重值映射关系表,确定所述节点树中各节点对应的初始权重值之前,还包括:
对页面数据库中各页面的超文本标记语言进行解析,确定所述预设的页面标签与权重值映射关系表,其中,所述页面数据库各页面中的标签对应内容类型已知。
3.如权利要求1所述的方法,其特征在于,所述根据预设的页面标签与权重值映射关系表,确定所述节点树中各节点对应的初始权重值之前,还包括:
根据所述待处理页面对应的节点树中各页面标签的类型,确定所述待处理页面对应的映射关系表;
或者,
根据所述待处理页面的统一资源定位符,确定所述待处理页面对应的映射关系表。
4.如权利要求1所述的方法,其特征在于,所述根据待处理页面的超文本标记语言代码,确定所述待处理页面对应的节点树之后,还包括:
删除所述节点树中的元素样式标签、属性标签及脚本标签,以得到所述待处理页面对应的目标节点树;
所述确定所述节点树中各节点对应的初始权重值,包括:
确定所述目标节点树中各节点对应的初始权重值。
5.如权利要求1所述的方法,其特征在于,所述根据与所述第二节点关联的其它各节点分别对应的初始权重值,确定所述第二节点对应的初始权重值之后,还包括:
根据所述第二节点及所述第二节点对应的初始权重值,更新所述预设的页面标签与权重值映射关系表。
6.如权利要求1所述的方法,其特征在于,所述根据所述节点树中各节点更新后的权重值,确定所述待处理页面中的正文节点,包括:
确定更新后的权重值最大的节点为所述待处理页面中的正文节点。
7.如权利要求6所述的方法,其特征在于,所述节点树中包括至少两个更新后的权重值最大的节点;
所述根据所述节点树中各节点更新后的权重值,确定所述待处理页面中的正文节点,包括:
根据所述至少两个更新后的权重值最大的节点在所述节点树中的位置、和/或所述至少两个更新后的权重值最大的节点的初始权重值,确定所述待处理页面中的正文节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810554392.4/1.html,转载请声明来源钻瓜专利网。





