[发明专利]敏感词处理方法、装置、电子设备、系统及存储介质

说明书

本公开关于一种敏感词处理方法、装置、电子设备、系统及存储介质，以减少对存储资源的浪费。该方法包括：获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

技术领域

本公开涉及计算机技术领域，尤其涉及敏感词处理方法、装置、电子设备、系统及存储介质。

背景技术

互联网公司向社会大众提供的产品及其服务中包括社会大众发布的作品(例如：文字作品、音频作品或视频作品等)、留言或评论等内容。其中，这些内容在被展示给大众前有可能会包括不符合主流价值观和有违社会道德的内容，互联网公司需要配置敏感词对将要展示给社会大众的内容进行过滤。

目前，对于不同的业务，互联网公司为每个业务均配置有该业务对应的敏感词库，然后根据每个业务对应的敏感词库，分别对内容进行过滤。当前，每个业务对应的敏感词库都单独存储。然而实际应用中，不同业务对应的敏感词库中可能包括相同的敏感词，这样会造成存储资源的浪费。

发明内容

本公开提供一种敏感词处理方法、装置、电子设备、系统及存储介质，以减少对存储资源的浪费。

本公开的技术方案如下：

根据本公开的第一方面，本公开实施例提供一种敏感词处理方法，该方法包括：获取待存储敏感词以及待存储敏感词的标识；待存储敏感词与待配置业务对应；若敏感词库中包括待存储敏感词，则建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系；版本标识用于表征对与待配置业务对应的敏感词执行处理操作的先后顺序。

本公开的技术方案中对于不同业务的敏感词如果在敏感词库中已经存在，则不需要重新存储，仅存储敏感词的标识、版本标识与新业务的标识的对应关系即可，有助于减少对存储资源的浪费。

在一种可能的实现方式中，该方法包括：若敏感词库中不包括待存储敏感词，则将待存储敏感词加入敏感词库，并建立待存储敏感词的标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

在另一种可能的实现方式中，该方法还包括：获取目标类别的类别标识；敏感词库中包括至少一个目标类别的敏感词；目标类别的敏感词所属类别的类别标识包括目标类别的类别标识；目标类别的敏感词未包括待存储敏感词；建立目标类别的类别标识、版本标识、处理操作以及待配置业务的标识之间的对应关系。

这样，用户在建立业务对应的敏感词时，对于已经存在的包括了想要建立的所有敏感词的类别，建立业务标识与该类别标识的对应关系即可。简化了配置人员的操作。

在另一种可能的实现方式中，该方法还包括：获取白名单的标识；白名单中包括至少一个目标类别的敏感词；建立白名单的标识、版本标识以及待配置业务的标识之间的对应关系。

这样，对于待配置业务对应的目标类别中若包括了不需要配置的敏感词，则可以通过建立的白名单将不需要配置的敏感词排除。

在另一种可能的实现方式中，该方法还包括：获取业务端发送的敏感词请求消息；请求消息包括待配置业务的标识和业务端版本标识；业务端版本标识为业务端中待配置业务的最新版本标识；从敏感词库中，确定出目标版本标识的敏感词以及目标版本标识的敏感词中每个敏感词的处理操作；目标版本标识为待配置业务的标识对应、且创建时间晚于业务端版本标识的创建时间的版本标识；向业务端发送确定出的敏感词以及敏感词的处理操作。

这样，对于配置端来说在为业务端获取业务对应的敏感词时，获取更新的部分，而不需要将业务对应的所有敏感词下发给业务端，从而节省了带宽资源。