[发明专利]一种敏感词自动过滤管理系统

摘要

本发明是一种敏感词自动过滤管理系统，用于检测网站数据里存在的敏感词（禁止词，侵权词，不雅词，政治性、煽动性的词语），采用搜索技术将内容中涉及敏感词查询出来，并且自动替换掉，还包含人工干预（修改误判、漏判）的成分，确保网站信息的有效性和正确性。本发明的核心部分由敏感词检测、人工干预操作、敏感信息替换以及分值效果回馈子系统组成。本发明建立了一条自动的“净化”信息流程，节省了大量的人力去做人工的检查、审核，极大的提高了效率，并且采用人工辅助判断也更加提高了信息的安全性。

主权项

一种敏感词自动过滤管理系统，它包括敏感词检测子系统、人工干预操作子系统、敏感信息替换子系统以及敏感词判定分值效果回馈子系统组成，其特征在于：所述敏感词检测子系统，它实现对包含敏感数据的检查，即在一定时间间隔内对原始数据建立索引，再通过对已建立索引的检查，分离出包含敏感信息的数据，如果不包含敏感信息就忽略，如果包含敏感信息则将该敏感信息采集下来存放于存储介质，这时存储的数据是所有可疑数据，包括确定为敏感数据的‑高敏感信息、可能为敏感数据的‑疑似敏感信息，为人工干预操作子系统和敏感信息替换子系统做数据准备；所述人工干预操作子系统，它实现对敏感词检测子系统检测出的包含敏感信息的数据进行人工审核处理和查漏补缺，在敏感词检测子系统做完初步检查后，筛选下来的结果分为两类，一类是需要人工审核处理和另一类不需要人工审核处理的系统自动处理，操作员参照系统的推荐值进行处理；所述敏感信息替换子系统，它实现对已经被判定为高敏感信息的数据进行过滤与替换，不在面向互联网的网页上展示这些带有高敏感信息的数据，屏蔽搜索引擎对这些高敏感信息数据的收集，做到信息的安全展现；所述敏感词判定分值效果回馈子系统，它实现对人工审核过程中所执行操作的记录，并针对这些记录进行拟合计算，将这个计算值反馈作用于下一周期的判断阀值，依据实际数据在合理范围的波动以适应数据环境的变化，根据这些操作的趋向性修改系统中最初设定的判定是否为敏感信息的阀值。