[发明专利]信息过滤方法、系统与装置

权利要求书

1.一种信息过滤系统，包括信息过滤服务器，其特征在于，还包括二次过滤服务器，其中：

信息过滤服务器，用于按照预设信息过滤机制，对待过滤信息集合进行过滤，输出由判断出的可疑的信息构成的第一信息集合；

二次过滤服务器,用于获得信息过滤服务器输出的第一信息集合，并根据预先设置的误判信息特征库，分别判断所述第一信息集合中的每条信息是否与误判信息特征相匹配；放行判断出的与误判信息特征相匹配的信息；

其中，所述误判信息特征是从被误判为可疑的信息的误判信息中提取的。

2.如权利要求1所述的系统，其特征在于，所述误判信息特征库中包含从不同类型的误判信息中提取出的误判信息特征；则

二次过滤服务器具体用于：

分别针对所述第一信息集合中的每条信息执行：确定该条信息的信息类型；从所述误判信息特征库中，确定从确定的所述信息类型的误判信息中提取的误判信息特征；判断该条信息是否与确定的误判信息特征相匹配。

3.如权利要求1所述的系统，其特征在于，二次过滤服务器还用于：

将判断出的与误判信息特征不匹配的信息提交人工审核系统，并从人工审核系统根据提交的所述信息而输出的误判信息中提取误判信息特征；并利用提取的误判信息特征更新所述误判信息特征库，得到更新后的误判信息特征库；获得信息过滤服务器在输出所述第一信息集合后输出的第二信息集合，所述第二信息集合由被信息过滤服务器判断为可疑的信息构成；并根据更新后的误判信息特征库，分别判断所述第二信息集合中的每条信息是否与更新后的误判信息特征库包含的误判信息特征相匹配；放行判断出的与更新后的误判信息特征库包含的误判信息特征相匹配的信息。

4.如权利要求3所述的系统，其特征在于，二次过滤服务器从确定的误判信息中提取误判信息特征，具体包括：

针对文本类型的误判信息，提取误判信息的文本长度，以及文本类型的误判信息中的包含指定关键字的字符串；

针对图片类型的误判信息，提取误判信息的长宽比例值、颜色占比值和色调均值中的一项或多项；

针对视频类型的误判信息，提取误判信息包含的指定关键帧；

针对音频类型的误判信息，提取误判信息包含的首、末一段音频的声波特征。

5.一种信息过滤方法，其特征在于，包括：

获得信息过滤服务器输出的第一信息集合，该第一信息集合由被所述信息过滤服务器判断为可疑的信息构成；

根据预先设置的误判信息特征库，分别判断所述第一信息集合中的每条信息是否与误判信息特征相匹配;其中，所述误判信息特征是从被误判为可疑的信息的误判信息中提取的；

放行判断出的与误判信息特征相匹配的信息。

6.如权利要求5所述的方法，其特征在于，所述误判信息特征库中包含从不同类型的误判信息中提取的误判信息特征；则

根据预先设置的误判信息特征库，分别判断所述第一信息集合中的每条信息是否与误判信息特征相匹配，具体包括：

分别针对所述第一信息集合中的每条信息执行：

确定该条信息的信息类型；

从所述误判信息特征库中，确定对应于所述信息类型的误判信息特征；

判断该条信息是否与确定的该误判信息特征相匹配。

7.如权利要求5所述的方法，其特征在于，还包括：

将判断出的与误判信息特征不匹配的信息提交人工审核系统；

从人工审核系统根据提交的所述信息而输出的误判信息中提取误判信息特征；并

利用提取的误判信息特征更新所述误判信息特征库，得到更新后的误判信息特征库；

获得信息过滤服务器在输出所述第一信息集合后输出的第二信息集合，所述第二信息集合由被信息过滤服务器判断为可疑的信息构成；并

根据更新后的误判信息特征库，分别判断所述第二信息集合中的每条信息是否与更新后的误判信息特征库中包含的误判信息特征相匹配；

放行判断出的与更新后的误判信息特征库中包含的误判信息特征相匹配的信息。