[发明专利]一种文本审核的方法和装置

权利要求书

1.一种文本审核装置，其特征在于，包括决策模块、敏感词匹配模块和神经网络模块，决策模块分别与敏感词匹配模块和神经网络模块双向信号连接，

决策模块用于对文本审核的流程进行管理，决定文本审核任务需要流经敏感词匹配模块或神经网络模块，并最终输出审核结果，

敏感词匹配模块用于匹配识别文本中出现的敏感词，

神经网络模块用于对文本进行分类，并输出文本分类标签。

2.如权利要求1所述的一种文本审核装置，其特征在于，所述的神经网络模块为fasttext神经网络模型。

3.如权利要求2所述的一种文本审核装置的文本审核方法，其特征在于，将敏感词划分为确信词和疑似词，如果出现确信词则直接判定为违规，否则由神经网络模型分类结果判断是否违规。

4.如权利要求3所述的一种文本审核装置的文本审核方法，其特征在于，包括以下步骤：

步骤1：对输入文本进行预处理，包括繁体转简体、大写转小写、全角转半角；

步骤2：对文本进行分词，采用jieba中文分词工具进行分词；

步骤3：对分词结果与敏感词词库进行匹配，得到敏感词集合S及其分类；

步骤4：如果集合S为空则直接输出文本正常，如果S不为空，则继续执行步骤5；

步骤5：如果S中存在确信词，则直接输出文本违规，否则将整个文本输入到训练好的fasttext神经网络模型中；

步骤6：fasttext神经网络对输入文本进行预测，得到文本的分类及概率值，分别记为L和P；

步骤7：如果L和S中某个疑似词所属的分类一致且P大于预设的阈值T则输出文本违规，否则输出文本正常。