[发明专利]敏感信息过滤方法、装置、计算机设备及存储介质

说明书

本发明实施例公开了一种敏感信息过滤方法、装置、计算机设备及存储介质，包括下述步骤：接收发送终端发送的即时信息；根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；当所述即时信息中存在所述敏感信息时，中止向所述即时信息指向的目标终端发送所述即时信息。利用敏感信息数据库确认即时信息中是否存在敏感信息，当存在时，通过中止发送该即时信息来避免将敏感信息直接发送给其他用户，可以解决由于发送终端的用户由于无意识而发送敏感信息的问题。

技术领域

本发明实施例涉及计算机领域，尤其是一种敏感信息过滤方法、装置、计算机设备及存储介质。

背景技术

及时通讯(instant Message，IM)是一个实时通信系统，允许两人或多人使用网络实时的传递文字消息、文字、语音与视频交流。IM是目前最流行的通讯方式。

IM的主要形式是两人之间的一对一聊天和两人以上的多人群聊。两种形式除了人数上的不同外，最重要的区别就是一对一聊天属于通知，即将特定消息发送给特定的终端，而群聊属于广播，即将消息广播到群聊中所有人的终端。

在实际应用中，用户在使用IM的过程中，经常会出现没有意识而发送不合适的语言、图片或网站信息等敏感信息给其他用户，进而其它用户造成伤害。针对这个问题，现有技术主要采用“撤回信息”的功能，但是在撤回时，其他用户很可能已经看到了，上述问题仍然不能得到有效的解决。

发明内容

本发明实施例提供一种根据预设的敏感信息数据库确认即时信息中是否存在敏感信息，并当存在敏感信息时，中止发送即时信息的方法。

为解决上述技术问题，本发明创造的实施例采用的一个技术方案是：提供一种敏感信息过滤方法，包括下述步骤：

接收发送终端发送的即时信息；

根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息；

当所述即时信息中存在所述敏感信息时，中止向所述即时信息指向的目标终端发送所述即时信息。

进一步地，当所述即时信息为网页信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

提取所述网页信息的统一资源定位符；

将所述统一资源定位符与所述敏感信息数据库中的敏感网站信息进行比对；

当所述敏感网站信息中包含所述统一资源定位符，则确认所述网页信息为敏感信息。

进一步地，其特征在于，当所述即时信息为文字信息时，所述根据预设的敏感信息数据库确认所述即时信息中是否存在敏感信息，具体包括：

将所述文字信息与所述敏感信息数据库中的敏感词汇信息进行比对；

当所述文字信息中包含所述敏感词汇信息中的至少一个敏感词汇，则确认所述文字信息为敏感信息。

可选地，当所述即时信息中敏感信息的占比大于预设的比较阈值时，所述中止向所述即时信息指向的目标终端发送所述即时信息之后，还包括：

向所述发送终端发送撤回消息，以使所述发送终端在接收到所述撤回消息后，根据所述撤回消息的提示确认是否发送所述即时消息；

获取所述发送终端发送的确认发送请求；

根据所述确认发送请求删除所述即时信息中的敏感信息后，将删除所述敏感信息的即时信息发送至所述目标终端。

可选地，所述向所述发送终端发送撤回消息之后，还包括：

获取所述发送终端发送的确认撤回请求；

根据所述确认撤回请求终止向所述目标终端转发所述即时消息的任务，并删除所述即时消息。