[发明专利]面向互联网的不良信息过滤系统及其方法

权利要求书

1.一种面向互联网的不良信息过滤系统，其特征在于：

所述不良信息过滤系统包括用户数据提交模块、用户服务管理系统、用户交互信息审核平台、净化服务运营平台、知识库及至少一个标引引擎；其中，

所述用户数据提交模块与所述用户服务管理系统连接，所述用户服务管理系统连接所述净化服务运营平台；

所述净化服务运营平台分别与所述用户交互信息审核平台和各标引引擎进行连接；

所述标引引擎与所述知识库进行连接。

2.如权利要求1所述的不良信息过滤系统，其特征在于：

所述标引引擎包括广告标引引擎组、水贴标引引擎组、个性化特征标引引擎组、行为特征标引引擎组、色情标引引擎组、低俗标引引擎组、敏感信息标引引擎组中的一个或多个。

3.如权利要求1所述的不良信息过滤系统，其特征在于：

所述知识库包括关键词词库、行为模式库、规则库、实例库和训练特征库中的一个或多个。

4.如权利要求1所述的不良信息过滤系统，其特征在于：

所述不良信息过滤系统中还包括杂质特征库、非杂质特征库和个性杂质特征库；所述杂质特征库、非杂质特征库和个性杂质特征库一方面连接所述知识库，另一方面与所述净化服务运营平台进行连接。

5.如权利要求1所述的不良信息过滤系统，其特征在于：

所述用户交互信息审核平台包括发布数据模块、反馈数据模块和系统效果统计模块；其中，所述发布数据模块接收来自所述净化服务运营平台的数据，如果是正常标记，则作为正常贴对外发布；如果是错误标记，则送入所述反馈数据模块作为训练语料使用，并反馈给所述净化服务运营平台。

6.一种面向互联网的不良信息过滤方法，基于如权利要求1所述的不良信息过滤系统实现，其特征在于包括如下的步骤：

(1)接收网络社区发布的各种消息；

(2)调用知识库中的实例库进行过滤，判断是否为不良信息；

(3)如果不是，进一步调用包括关键词、关键词组合、URL、IP地址、用户ID在内的客户个性化“黑白名单”进行过滤，判断是否为不良信息；

(4)如果不是，进一步进行普通行为模式识别；

(5)如果不是，进一步进行特征行为模式识别；

(6)如果不是，进一步调用各种业务规则进行过滤；

(7)综合步骤(2)～(6)所获得的过滤结果，得到最终的不良信息过滤结果，并保存入库；

(8)将最终的标引结果返回给客户端。

7.如权利要求6所述的不良信息过滤方法，其特征在于：

在不良信息过滤过程中，首先对消息文本进行关键词匹配；假如没有命中关键词，则将预测结果设为“不需要删除”，假如命中关键词，则将文本转换成向量空间模型，对该向量进行预测，预测的结果为一个确信度；对于不同的消息，根据确信度和预设的阈值将其预测为“需要删除”、“疑似需要删除”、“不需要删除”这三类，其中对于“疑似需要删除”这一类别的消息，引入人工进行进一步审核。

8.如权利要求6所述的不良信息过滤方法，其特征在于：

所述步骤(5)中，所述特征行为模式识别是指对网络社区发布的信息内容进行整体分析，通过语义识别提取出其中所有的特征联系信息，对所述特征联系信息在一定时间段内的出现频率进行计算，并与预设的阀值进行比较，当超出所述阀值时，认为是不良信息。