[发明专利]一种用于监控互联网中转载文章信息的控制方法及装置在审
申请号: | 201910361005.X | 申请日: | 2019-04-30 |
公开(公告)号: | CN111859063A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 李青龙;骆飞;彭璿韜;王雪峰;卢达 | 申请(专利权)人: | 北京智慧星光信息技术有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/903;G06F16/901 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 刘昕 |
地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 监控 互联网 转载 文章 信息 控制 方法 装置 | ||
一种用于监控互联网中转载文章信息的控制方法及装置,包括:系统抓取数据源中文章信息,得到文章的SimHash指纹和hash指纹并存储到数据库中;系统根据监控的文章信息的文字信息和文章中最长的n个句子的文字信息,计算得到SimHash指纹和hash指纹,将SimHash指纹与数据库中各文章的SimHash指纹进行比较,获取海明距离小于等于3的一或多篇文章信息,并比较hash指纹,获取hash指纹相同的一或多篇文章信息;系统进行文本相似度计算,判断如果获取的数据库中一或多篇文章信息的内容与监控的文章信息的内容相似率大于等于预设值,则判定该获取的文章信息为转载文章信息。本发明解决了当前作者发表一篇原创文章,可快速获取原创文章被侵权转载的情况的技术问题。
技术领域
本申请涉及计算机信息技术领域,特别涉及一种用于监控互联网中转载文章信息的控制方法及装置。
背景技术
近年来随着信息技术的大力发展,网上的信息越来越多,信息的传播速度越来越块,信息传播的渠道越来越广。在互联网信息传播过程中,出现了越来越多的文章抄袭和转载,文章的抄袭的成本低廉。如果一个作者发表一篇文章,会被很多人转载,但无法知道有多少人,多少站点转载了自己的文章,对于原创作者来说损失很大,如何对原创文章进行保护,快速获取原创文章被侵权转载的情况,快速检索到新闻被转载的信息,同时能够检索多渠道的新闻的转载情况,是当前需要解决的问题。
发明内容
本申请实施例提供一种用于监控互联网中转载文章信息的控制方法及装置,以解决当前作者发表一篇原创文章,可以快速获取原创文章被侵权转载的情况的技术问题。
本发明提供了一种用于监控互联网中转载文章信息的控制方法,包括:
系统预先设置需要监控的一个或多个互联网数据源,抓取预先设置的数据源中文章信息,其中获取文章中文字信息,并获取每篇文章的最长的n个句子的文字信息,n为大于0的整数;
系统根据抓取的文章中文字信息,计算该篇文章的SimHash值,作为该篇文章的SimHash指纹,计算该篇文章的最长的n个句子的hash值,作为该篇文章的hash指纹,将各篇文章的文章信息、SimHash指纹和hash指纹存储到数据库中;
系统根据需要监控的文章信息的文字信息和该需要监控的文章中最长的n个句子的文字信息,计算得到需要监控的文章的SimHash指纹和hash指纹,将需要监控的文章的SimHash指纹与所述数据库中各文章的SimHash指纹进行比较,获取数据库中文章的SimHash指纹和需要监控的文章的SimHash指纹的海明距离小于等于3的一或多篇文章信息,并将需要监控的文章的hash指纹与所述数据库中各文章的hash指纹进行比较,获取数据库中文章的hash指纹和需要监控的文章的hash指纹相同的一或多篇文章信息;
系统进行文本相似度计算,判断如果获取的所述数据库中一或多篇文章信息的内容与需要监控的文章信息的内容相似率大于等于预设值,则判定该获取的文章信息为转载文章信息。
本发明还提供了一种用于监控互联网中转载文章信息的控制装置,包括,
信息抓取单元,用于从预先设置需要监控的一个或多个互联网数据源,抓取预先设置的数据源中文章信息,其中获取文章中文字信息,并获取每篇文章的最长的n个句子的文字信息,n为大于0的整数;
运算单元,用于根据信息抓取单元抓取的文章中文字信息,计算该篇文章的SimHash值,作为该篇文章的SimHash指纹,计算该篇文章的最长的n个句子的hash值,作为该篇文章的hash指纹,将各篇文章的文章信息、SimHash指纹和hash指纹存储到数据库中;并根据需要监控的文章信息的文字信息和该需要监控的文章中最长的n个句子的文字信息,计算得到需要监控的文章的SimHash指纹和hash指纹;及
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京智慧星光信息技术有限公司,未经北京智慧星光信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910361005.X/2.html,转载请声明来源钻瓜专利网。