[发明专利]一种基于强化学习的网络爬虫自主行为控制方法

说明书

本发明涉及一种强化学习的技术领域，公开了一种基于强化学习的网络爬虫自主行为控制方法，包括：获取训练数据集，并对训练集中的超链接以及超链接上下文进行规范化，形成训练数据集中超链接的状态空间和动作空间；对状态空间中不同主题间的超链接进行统计，并计算每个主题的超链接累积收益；利用LDA主题模型计算得到当前需要爬取的网页中每个超链接上下文的主题分布；根据网页中超链接上下文的主题分布，选取概率最大的主题作为超链接上下文的主题，得到网络爬虫的初始主题和目的主题，选取累积收益最大的超链接进行网络爬虫爬取超链接累积收益。本发明实现了网络爬虫行为的控制。

技术领域

本发明涉及强化学习的技术领域，尤其涉及一种基于强化学习的网络爬虫自主行为控制方法。

背景技术

大数据时代背景下，如何获取大量数据并处理已成为大数据研究领域的首要问题，基于数据的分析与应用成为研究人员关注的热点，如热点话题挖掘与预测、网络舆情监测等研究均在新闻数据的基础上开展，而研究工作中的第一步，便是对新闻数据的获取。

传统网络爬虫技术需要根据设计需求获取特定网站的URL作为最初的爬取目标(种子URL)；然后将获取到的种子URL放入网络爬虫待抓取队列中；随后通过域名解析的方式得到队列中URL的服务器网络地址，并将该地址对应的网页数据存储到数据库中；最终，通过数据库中的网页数据得到新的URL放入待抓取队列中，循环上述过程。但随着需要抓取网页数量的不断增加，网络爬虫会爬取到大量不相关的网页数据，已较难满足实际的系统开发需求。

鉴于此，如何对网络爬虫的爬取路径进行控制，实现更为高效的网络爬虫，成为本领域技术人员亟待解决的问题。

发明内容

本发明提供一种基于强化学习的网络爬虫自主行为控制方法，通过对训练集中的上下文链接进行规范化，形成网络爬虫的状态空间和动作空间，对状态空间中不同主题间的超链接进行统计，并计算每个主题的超链接的价值；网络爬虫在进行爬取时首先利用LDA主题模型计算得到每个主题超链接的上下文主题分布，根据不同超链接的价值，选取价值最大的超链接进行爬取，实现网络爬虫自主行为控制。

为实现上述目的，本发明提供的一种基于强化学习的网络爬虫自主行为控制方法，包括：

获取训练数据集，并对训练集中的超链接以及超链接上下文进行规范化，形成训练数据集中超链接的状态空间和动作空间；

对状态空间中不同主题间的超链接进行统计，并计算每个主题的超链接累积收益；

利用LDA主题模型计算得到当前需要爬取的网页中每个超链接上下文的主题分布；

根据网页中超链接上下文的主题分布，选取概率最大的主题作为超链接上下文的主题，得到网络爬虫的初始主题和目的主题，选取累积收益最大的超链接进行网络爬虫爬取。

可选地，所述获取训练数据集，包括：

从网页数据中提取每个网页的超链接以及超链接上下文语句，将所提取的超链接以及超链接上下文语句构成训练数据集T＝{(t_i,h_i)|i＝1,2,…,N}，其中t_i表示第i个超链接的上下文，h_i表示第i个超链接，N为训练数据集的大小，在本发明一个具体实施例中，超链接的上下文为超链接所链接的上下文内容，包括网页、文本、图片等。

可选地，所述对训练集中的超链接以及超链接上下文进行规范化，形成训练数据集中超链接的状态空间和动作空间，包括：

将训练数据集中超链接上下文所对应的主题预设为K＝{k_j,j＝1,2,…,m}，其中k_j为训练数据集中的第j种主题，m表示训练数据集中共有m种主题，mn；