[发明专利]一种网页信息抽取方法及装置有效
申请号: | 201711458949.6 | 申请日: | 2017-12-28 |
公开(公告)号: | CN110110198B | 公开(公告)日: | 2021-06-15 |
发明(设计)人: | 梁俊;蒋忠强;全兵;胡小克;巴伟 | 申请(专利权)人: | 中移(苏州)软件技术有限公司;中国移动通信集团公司 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F16/951;G06F40/143;G06F40/146;G06N5/02 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 郭润湘 |
地址: | 215163 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网页 信息 抽取 方法 装置 | ||
1.一种网页信息抽取方法,其特征在于,包括:
获取网页的文档对象模型DOM树和所述网页的展示页面截图;
根据所述网页的DOM树确定所述网页的候选元素以及候选元素的文本信息;
根据所述网页的展示页面截图确定所述网页的候选位置信息;
根据各候选位置信息、各候选元素的文本信息确定所述网页的各候选元素作为目标抽取元素的第一概率;
根据各候选位置信息确定所述网页的各候选位置作为目标抽取元素对应的目标抽取位置的第二概率;
根据所述第一概率和所述第二概率从各候选元素和各候选位置中确定目标抽取元素和所述目标抽取元素对应的目标抽取位置;
根据确定为目标抽取元素的候选元素和确定为所述目标抽取元素对应的目标抽取位置的候选位置对所述网页进行信息抽取。
2.如权利要求1所述的方法,其特征在于,所述根据各候选位置信息、各候选元素的文本信息确定所述网页的各候选元素作为目标抽取元素的第一概率,包括:
将各候选位置信息、各候选元素的文本信息输入神经网络模型;
通过所述神经网络模型预测输出各候选元素作为目标抽取元素的第一概率。
3.如权利要求1所述的方法,其特征在于,所述根据各候选位置信息确定所述网页的各候选位置作为目标抽取元素对应的目标抽取位置的第二概率,包括:
将各候选位置信息输入目标抽取元素对应的空间概率分布模型;
通过所述空间概率分布模型预测输出各候选位置作为目标抽取元素对应的目标抽取位置的第二概率。
4.如权利要求1所述的方法,其特征在于,所述根据所述第一概率和所述第二概率从各候选元素和各候选位置中确定目标抽取元素和所述目标抽取元素对应的目标抽取位置,包括:
将各候选元素中第一概率满足第一预设条件的候选元素确定为所述目标抽取元素;
将各候选位置中第二概率满足第二预设条件的候选位置确定为所述目标抽取元素对应的目标抽取位置。
5.如权利要求1所述的方法,其特征在于,所述根据所述第一概率和所述第二概率从各候选元素和各候选位置中确定目标抽取元素和所述目标抽取元素对应的目标抽取位置,包括:
根据所述第一概率和所述第二概率确定各候选元素和各候选位置的关联概率;
将满足第三预设条件的关联概率对应的候选元素和候选位置确定为目标抽取元素和所述目标抽取元素对应的目标抽取位置。
6.如权利要求1所述的方法,其特征在于,所述根据所述网页的DOM树确定所述网页的候选元素以及候选元素的文本信息,包括:
将所述DOM树中叶节点的上一层节点确定为所述网页的候选元素;
针对任意一个候选元素,根据所述候选元素在DOM树中位置对所述候选元素的内容进行文本编码,确定所述候选元素的文本信息。
7.一种网页信息抽取装置,其特征在于,包括:
获取模块,用于获取网页的文档对象模型DOM树和所述网页的展示页面截图;
处理模块,用于根据所述网页的DOM树确定所述网页的候选元素以及候选元素的文本信息;根据所述网页的展示页面截图确定所述网页的候选位置信息;根据各候选位置信息、各候选元素的文本信息确定所述网页的各候选元素作为目标抽取元素的第一概率;根据各候选位置信息确定所述网页的各候选位置作为目标抽取元素对应的目标抽取位置的第二概率;根据所述第一概率和所述第二概率从各候选元素和各候选位置中确定目标抽取元素和所述目标抽取元素对应的目标抽取位置;根据确定为目标抽取元素的候选元素和确定为所述目标抽取元素对应的目标抽取位置的候选位置对所述网页进行信息抽取。
8.如权利要求7所述的装置,其特征在于,所述处理模块具体用于:
将各候选位置信息、各候选元素的文本信息输入神经网络模型;
通过所述神经网络模型预测输出各候选元素作为目标抽取元素的第一概率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移(苏州)软件技术有限公司;中国移动通信集团公司,未经中移(苏州)软件技术有限公司;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711458949.6/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置