[发明专利]交互过程中智能识别并处理敏感内容的方法及系统

权利要求书

1.一种交互过程中智能识别并处理敏感内容的方法，其特征在于，包括：

接收预设敏感内容，按照AC自动机的机制将所述预设敏感内容编译成自动机；将所述自动机按照预设的关键字编码的字符顺序排列，并根据所述字符顺序排列将所述自动机构建成自动机搜索树，并将所述自动机搜索树存储至远程网络请求服务平台上；

接收客户端的交互内容，解析所述交互内容得到交互字符，通过远程服务协议在所述自动机搜索树中逐字读入所述交互字符，通过所述交互字符遍历所述自动机搜索树得到所述交互内容中的敏感内容；

搜索所述客户端的历史交互记录，得到所述敏感内容出现的次数，结合预先设置的敏感内容处理策略，对所述客户端执行相应的处理操作；

基于当前的所述字符顺序排列，根据所述敏感内容更新所述自动机搜索树；

将更新后的所述自动机搜索树及所述敏感内容对应的处理策略存储至所述远程网络请求服务平台上；

统计所述交互字符在交互过程中出现的次数，在所述交互字符在交互过程中出现的次数大于或等于敏感次数时，将所述交互字符反馈至管理端口；

接收所述管理端口的敏感内容指令，并根据所述敏感内容指令将所述交互字符更新至所述自动机搜索树中。

2.根据权利要求1所述的交互过程中智能识别并处理敏感内容的方法，其特征在于，所述敏感内容处理策略，进一步为：

所述敏感内容出现次数小于或等于设定次数时，在交互界面中屏蔽该敏感内容，并向所述客户端发送警示消息；

所述敏感内容出现次数大于设定次数且小于或等于设定次数阈值时，在交互界面中屏蔽该敏感内容，并将所述客户端屏蔽预设时间；

所述敏感内容出现次数大于所述设定次数阈值时，在交互界面中屏蔽该敏感内容，并屏蔽所述客户端。

3.根据权利要求2所述的交互过程中智能识别并处理敏感内容的方法，其特征在于，所述设定次数，进一步为一到三次；所述设定次数阈值，进一步为三到五次。

4.根据权利要求1所述的交互过程中智能识别并处理敏感内容的方法，其特征在于，将所述自动机按照预设的关键字编码的字符顺序排列，并根据所述字符顺序排列将所述自动机构建成自动机搜索树，进一步为：

根据预设的自动机扩展策略获取所述自动机对应的扩展自动机；

将所述自动机及其扩展自动机按照预设的关键字编码的字符顺序排列，并根据所述字符顺序排列将所述自动机构建成自动机搜索树。

5.一种交互过程中智能识别并处理敏感内容的系统，其特征在于，包括：自动机搜索树创建模块、敏感内容获取模块、敏感内容处理模块、自动机搜索树更新模块及敏感内容处理策略存储模块；其中，

所述自动机搜索树创建模块，用于与所述敏感内容获取模块相连接，接收预设敏感内容，按照AC自动机的机制将所述预设敏感内容编译成自动机；将所述自动机按照预设的关键字编码的字符顺序排列，并根据所述字符顺序排列将所述自动机构建成自动机搜索树，并将所述自动机搜索树存储至远程网络请求服务平台上；

所述敏感内容获取模块，用于与所述自动机搜索树创建模块及敏感内容处理模块相连接，接收客户端的交互内容，解析所述交互内容得到交互字符，通过远程服务协议在所述自动机搜索树中逐字读入所述交互字符，通过所述交互字符遍历所述自动机搜索树得到所述交互内容中的敏感内容；

所述敏感内容处理模块，用于与所述敏感内容获取模块及自动机搜索树更新模块相连接，搜索所述客户端的历史交互记录，得到所述敏感内容出现的次数，结合预先设置的敏感内容处理策略，对所述客户端执行相应的处理操作；

所述自动机搜索树更新模块，用于与所述敏感内容处理模块及敏感内容处理策略存储模块相连接，基于当前的所述字符顺序排列，根据所述敏感内容更新所述自动机搜索树；

所述敏感内容处理策略存储模块，用于与所述自动机搜索树更新模块相连接，将更新后的所述自动机搜索树及所述敏感内容对应的处理策略存储至所述远程网络请求服务平台上；

进一步包括：预设敏感内容更新模块，用于与所述自动机搜索树创建模块相连接，统计所述交互字符在交互过程中出现的次数，在所述交互字符在交互过程中出现的次数大于或等于敏感次数时，将所述交互字符反馈至管理端口；

接收所述管理端口的敏感内容指令，并根据所述敏感内容指令将所述交互字符更新至所述自动机搜索树中。