[发明专利]敏感信息过滤方法、装置、计算机设备及存储介质

权利要求书

1.一种敏感信息过滤方法，其特征在于，包括下述步骤：

服务器接收发送终端发送的即时信息；

当即时信息为图片信息或包含图片信息时，根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；包括：将图片信息与敏感信息数据库中的图片敏感信息进行比对,当图片敏感信息中存在与图片信息相同的图片，确定包含图片信息的即时信息为敏感信息；

当即时信息为文字信息时，以文字信息中的每一个文字为起始字，顺次提取多个字的组合作为一个词汇，并将该词汇与敏感信息数据库中的敏感词汇信息进行比对；当文字信息至少包含一个敏感词汇信息，确定文字信息为敏感信息；

当所述即时信息中存在所述敏感信息，且敏感信息的占比小于预设的比较阈值时，在中止向所述即时信息指向的目标终端发送所述即时信息之后，向所述发送终端发送撤回消息，以使所述发送终端在接收到所述撤回消息后，根据界面显示的所述撤回消息确认是否发送所述即时信息；其中，撤回消息包括包含敏感信息的即时信息、撤回的理由、用于提示用户继续发送的快捷键、和用于提示用户确认撤回的快捷键中的至少一项；

获取所述发送终端发送的确认发送请求；

根据所述确认发送请求删除所述即时信息中的敏感信息后，将删除所述敏感信息的即时信息发送至所述目标终端。

2.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息为网页信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

提取所述网页信息的统一资源定位符；

将所述统一资源定位符与所述敏感信息数据库中的敏感网站信息进行比对；

当所述敏感网站信息中包含所述统一资源定位符，则确认所述网页信息为敏感信息。

3.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息为文字信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

将所述文字信息与所述敏感信息数据库中的敏感词汇信息进行比对；

当所述文字信息中包含所述敏感词汇信息中的至少一个敏感词汇，则确认所述文字信息为敏感信息。

4.根据权利要求1所述的敏感信息过滤方法，其特征在于，所述向所述发送终端发送撤回消息之后，还包括：

获取所述发送终端发送的确认撤回请求；

根据所述确认撤回请求终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

5.根据权利要求1所述的敏感信息过滤方法，其特征在于，当所述即时信息中敏感信息的占比大于所述比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

向所述发送终端发送警示信息；

终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。

6.根据权利要求4～5任一项所述的敏感信息过滤方法，其特征在于，所述即时 信息中敏感信息的占比的计算方法包括：

从所述即时信息中提取敏感信息；

计算所述敏感信息的字数占所述即时信息字数的占比，得到即时信息中敏感信息的占比。