[发明专利]一种对海量用户生产内容进行自动内容管控的方法

权利要求书

1.一种对海量用户生产内容进行自动内容管控的方法，其特征在于，包括如下的步骤：

步骤1）用户输入内容，点击发送至客户端，客户端提示包含敏感词的窗口命令，是否进行确认修改；

步骤2）客户端根据其内设置的本地敏感词库验证，查看是否存在敏感词；如过包含敏感词，返回至步骤1），如果不包含敏感词进入下一步骤；

步骤3）客户端将用户ID以及发送的内容推送至服务器端；

步骤4）服务器端接收用户ID以及发送的内容，通过敏感词系统以及大数据语义分析判断风险，具体包括：

在风险判断之前，先将接收到的用户发送的内容预存为至少一种可读格式的图片，将该可读格式的图片缓存至服务器端；

一：通过敏感词系统判断风险，包括

服务器设置一扫描窗口模块，扫描窗口模块用于识别可读格式的图片的边界，在扫描窗口模块内嵌入一驱动模块，该驱动模块驱动滑动模板在扫描窗口模块识别的边界内滑动，识别可读格式的图片上的文字信息，并对识别的文字信息与服务器设置的敏感词库进行比对，查看是否存在敏感词，并遍历整个边界，判断并汇总敏感词风险结果；

二：大数据语义分析判断风险，包括

服务器设置一扫描窗口模块，扫描窗口模块用于识别可读格式的图片的边界，在扫描窗口模块内嵌入一驱动模块，该驱动模块驱动一浮动窗口模块在扫描窗口模块识别的边界内滑动，浮动窗口模块依据识别的特殊字段进行断句，并将获取的断句发送至语义分析模块，语义分析模块对断句进行处理，记录语句表达的情绪等级，并遍历整个边界，判断并汇总语句表达的情绪等级风险结果；

步骤5）依据步骤4）的结果判断是否存在高风险，如果存在高风险，服务器屏蔽其发送的内容并记录用户的ID，并根据用户ID下的历史数据及严重等级执行限制登陆、用户禁言、频道禁言、文章禁言的处理；如果不存在高风险，根据用户ID下的历史数据等级判断用户的风险等级并记录，若用户的风险等级超过设定的阈值，则服务器发送至人工审查客户端进行人工审查，若用户的风险等级未超过设定的阈值，依次判断频道风险等级和文章风险等级，若频道风险等级和文章风险等级均在正常范围内，服务器端将接收到的用户ID发送的内容进行推送并发布至相关频道下。

2.根据权利要求1所述的对海量用户生产内容进行自动内容管控的方法，其特征在于，在步骤5）中，若人工审查存在高风险，人工客户端键入反馈命令至服务器屏蔽其发送的内容并记录用户的ID，并根据用户ID下的历史数据及严重等级执行限制登陆、用户禁言、频道禁言、文章禁言的处理；若人工审查未存在高风险，依次判断频道风险等级和文章风险等级，若频道风险等级和文章风险等级均在正常范围内，服务器端将接收到的用户ID发送的内容进行推送并发布至相关频道下。

3.根据权利要求1或2所述的对海量用户生产内容进行自动内容管控的方法，其特征在于，在步骤5）中，判断频道风险等级，若频道风险等级不在正常范围内，服务器屏蔽其发送的内容并记录用户的ID，并根据用户ID下的历史数据及严重等级执行限制登陆、用户禁言、频道禁言、文章禁言的处理。

4.根据权利要求1或2所述的对海量用户生产内容进行自动内容管控的方法，其特征在于，在步骤5）中，判断文章风险等级，若文章风险等级不在正常范围内，服务器屏蔽其发送的内容并记录用户的ID，并根据用户ID下的历史数据及严重等级执行限制登陆、用户禁言、频道禁言、文章禁言的处理。