[发明专利]基于无监督聚类的长文本可信度评估方法及系统有效

专利信息
申请号: 201910418900.0 申请日: 2019-05-20
公开(公告)号: CN110287314B 公开(公告)日: 2021-08-06
发明(设计)人: 刘春阳;陈志鹏;曹娟;张旭;王鹏;张翔宇;李锦涛;谢添 申请(专利权)人: 中国科学院计算技术研究所;国家计算机网络与信息安全管理中心
主分类号: G06F16/35 分类号: G06F16/35
代理公司: 北京律诚同业知识产权代理有限公司 11006 代理人: 祁建国;梁挥
地址: 100080 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 监督 文本 可信度 评估 方法 系统
【权利要求书】:

1.一种基于无监督聚类的长文本可信度评估方法,其特征在于,包括:

以已知长文本获取训练数据,提取该训练数据的训练特征以构建训练特征向量集,对该训练特征向量集进行无监督聚类,得到多个训练类心;

以待评估长文本获取评估数据,提取该评估数据的评估特征向量;

以第i个评估数据的评估特征向量对于训练类心的相似度作为第i个评估数据对于训练类心的段落评估值Scorepj,并获得该待评估长文本相对训练类心的文本评估值Scorej,以文本评估值Scorej得到该待评估长文本的可信度Score;

其中,

Score=α1*Score12*Score2+……+αn*Scoren

m为评估数据的数量,n为训练类心的数量,0<i<m,0<j<n,α为文本评估值的权重参数,q为段落评估值大于段落评估阈值的评估数据的个数。

2.如权利要求1所述的长文本可信度评估方法,其特征在于,通过数据预处理步骤获取该训练数据和评估数据,该数据预处理步骤包括:

删除该已知长文本中的恶意跳转文本,并以文本长度大于文本阈值的已知长文本为第一长文本,对该第一长文本进行段落切分,得到多个第一段落,以该第一段落为该训练数据;

删除该待评估长文本中的恶意跳转文本,并以文本长度大于该文本阈值的待评估长文本为第二长文本,对该第二长文本进行段落切分,得到多个第二段落,以该第二段落为该评估数据。

3.如权利要求2所述的长文本可信度评估方法,其特征在于,该训练特征和该评估特征包括:符号特征、基本特征、词性特征和高层语义特征;

其中,该符号特征为文本符号统计特征,包括文本数字个数、标点符号个数、指定词个数;

该基本特征包括文本平均词长、正文字符数、标题字数、句子数、文本平均句长、段落长度、段落内平均句长;

该词性特征包括文本中副词个数、形容词个数、介词个数、名词个数、动词个数、段落中第一人称个数、第二人称个数、第三人称个数、组织机构名个数、人名个数、地名个数;

该高层语义特征包括段落情感值、文章标题与段落的相似度、易读性指标、信息量指标、信息度指标、交互性、兴趣性、动人性、说服性、不确定性、逻辑性。

4.一种基于无监督聚类的长文本可信度评估系统,其特征在于,包括:

第一数据模块,用于以已知长文本获取训练数据,提取该训练数据的训练特征以构建训练特征向量集,对该训练特征向量集进行无监督聚类,得到多个训练类心;

第二数据模块,用于以待评估长文本获取评估数据,提取该评估数据的评估特征向量;

评估模块,用于获取该评估特征向量相对该训练类心的评估值,并以该评估值得到该待评估长文本的可信度;其中,以第i个评估数据的评估特征向量对于训练类心的相似度作为第i个评估数据对于训练类心的段落评估值Scorepj,并获得该待评估长文本相对训练类心的文本评估值Scorej,以文本评估值Scorej得到该待评估长文本的可信度Score;

其中,

Score=α1*Score12*Score2+……+αn*Scoren

m为评估数据的数量,n为训练类心的数量,0<i<m,0<j<n,α为文本评估值的权重参数,q为段落评估值大于段落评估阈值的评估数据的个数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所;国家计算机网络与信息安全管理中心,未经中国科学院计算技术研究所;国家计算机网络与信息安全管理中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910418900.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top