[发明专利]敏感信息检测方法和装置

说明书

本发明公开敏感信息检测方法和装置，其中，一种敏感信息检测方法，包括：响应于接收到的待检测文本，对待检测文本进行分词处理以得到第一分词序列；判断第一分词序列中的各分词是否能够匹配上白名单中的词；如果能够匹配上白名单中的词，使用与白名单中的词对应的预设标记替换第一分词序列中与白名单中的词匹配的分词以形成第二分词序列，其中，白名单中的词均具有对应的预设标记；判断第二分词序列中的各分词是否能够匹配上黑名单中的词；以及如果第二分词序列中的任一分词能够匹配上黑名单中的词，将待检测文本确定为敏感信息。本申请实施例通过先进行白名单匹配和替换再进行黑名单检测，能避免一部分词被误识别为敏感词，减少误识别的概率。

技术领域

本发明属于敏感信息检测技术领域，尤其涉及敏感信息检测方法和装置。

背景技术

随着互联网的不断发展和进步，基于文本信息的网络服务已经深入到人们生活的各个方面。但是互联网服务中的文本信息在给人们带来交流便利的同时，不可避免地也会散播一些未经证实的消息或不良内容，很多情况下会出现违反国家法律法规并损害公众利益的言行。因此，为了维护国家法律和公民权益，越来越多的网络文本服务中集成了敏感词过滤功能。

目前流行的敏感词匹配技术，通常采用敏感词库中的敏感词向待判定的文本匹配的方式进行的，需要反复地提取词语并逐词比对。

发明人在实现本申请的过程中发现：其一，这种反复执行的敏感词查找操作会严重降低网络服务的性能，影响用户体验；其二，这种提取方式只考虑文本的局部信息，没有考虑句子的上下文语义信息，会错误屏蔽掉用户的信息，降低用户的通讯质量；其三，这种提取方式使用的是统一的敏感词库，没有考虑不同的用户有不同的敏感词库，不支持敏感词库的配置，灵活度不高。

发明内容

本发明实施例提供一种敏感信息检测方法和装置，用于至少解决上述技术问题之一。

第一方面，本发明实施例提供一种敏感信息检测方法，包括：响应于接收到的待检测文本，对所述待检测文本进行分词处理以得到第一分词序列；判断所述第一分词序列中的各分词是否能够匹配上白名单中的词；如果能够匹配上所述白名单中的词，使用与所述白名单中的词对应的预设标记替换所述第一分词序列中与所述白名单中的词匹配的分词以形成第二分词序列，其中，所述白名单中的词均具有对应的预设标记；判断所述第二分词序列中的各分词是否能够匹配上黑名单中的词；以及如果所述第二分词序列中的任一分词能够匹配上所述黑名单中的词，将所述待检测文本确定为敏感信息。

第二方面，本发明实施例提供一种敏感信息检测装置，包括：分词模块，配置为响应于接收到的待检测文本，对所述待检测文本进行分词处理以得到第一分词序列；白名单判断模块，配置为判断所述第一分词序列中的各分词是否能够匹配上白名单中的词；标记替换模块，配置为如果能够匹配上所述白名单中的词，使用与所述白名单中的词对应的预设标记替换所述第一分词序列中与所述白名单中的词匹配的分词以形成第二分词序列，其中，所述白名单中的词均具有对应的预设标记；黑名单判断模块，配置为判断所述第二分词序列中的各分词是否能够匹配上黑名单中的词；以及敏感信息确定模块，配置为如果所述第二分词序列中的任一分词能够匹配上所述黑名单中的词，将所述待检测文本确定为敏感信息。

第三方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例的敏感信息检测方法的步骤。

第四方面，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行本发明任一实施例的敏感信息检测方法的步骤。