[发明专利]一种基于文本处理的异常事件分类方法及系统

权利要求书

1.一种基于文本处理的异常事件分类方法，其特征在于包括如下步骤：

步骤1、设定朴素贝叶斯模型；

步骤2、利用BERT进行异常事件标签分类；

步骤3、根据业务逻辑模型判断异常事件类型。

2.根据权利要求1所述的一种基于文本处理的异常事件分类方法，其特征在于，所述步骤1中所述朴素贝叶斯模型以特征词之间独立作为前提假设，学习从输入到输出的联合概率分布，再基于概率分布，求出在输入条件下，使得后验概率最大的输出的设定首先基于原始的异常事件文本数据，用命名实体识别的方式将与异常事件特征不密切的要素替换成相同的字符表示，进行数据预处理，然后将文本进行分词，每个词语作为朴素贝叶斯的输入特征，文本的标签作为模型的输出，统计每类文档标签下的词语概率分布，生成模型，利用参数学习到一个宏观层面的分类模型。

3.根据权利要求1所述的一种基于文本处理的异常事件分类方法，其特征在于，所述步骤2中所述异常事件标签分类包括基于原始的异常事件文本数据、基于异常事件文本以及对应的各类异常事件标签、Fine-tune微调、文本数据与标签数据的评分，所述基于原始的异常事件文本数据、对BERT模型进行一个参数预训练，让BERT模型学习到异常事件文本的内在语言逻辑和表达，用与朴素贝叶斯相同的预处理方式，然后，对每一条文本进行Token编码处理，并对每一句话进行截断和补零处理，令每一句的长度相同；所述于异常事件文本以及对应的各类异常事件标签在预训练好的BERT模型的下游添加一个全连接的判别层，进行Mask LM和Next Sentence Prediction两类任务的训练；所述Fine-tune微调根据不同类型的异常事件标签分类任务，对文本采取不同的预处理模式；所述文本数据与标签数据的评分在之前预训练的BERT模型的输出端连接一个输出大小为所有异常事件类别数量的全链接softmax层，以获得每一个标签的评分。

4.根据权利要求1所述的一种基于文本处理的异常事件分类方法，其特征在于，所述步骤3中所述业务逻辑模型通过人工对文本数据的规律总结以及异常事件其它字段的提取，结合相关的业务知识，用正则表达式、关键词匹配方式给这些类在输出层加一个微小的分值，以辅助BERT的判别，具体步骤如下：

步骤31、事件类别分类任务中的异常事件；

步骤32、事件类别分类任务中的混淆；

步骤33、区域类型分类任务中的判别；

步骤34、案由标签分类任务的额外权重。

5.根据权利要求2所述的一种基于文本处理的异常事件分类方法，其特征在于，所述朴素贝叶斯模型以特征词之间独立作为前提假设，假设集合H并在其中寻找给定数据D时假设h∈H，这种假设方式称为后验假设，确定MAP假设方式利用朴素贝叶斯公式计算每个候选假设的后验概率：表达方式如下：

P(h|D)＝P(h|D)P(h)/P(D)

式中，P(h|D)表示后验概率函数；D表示给定数据；h表示包含于H。

6.根据权利要求3所述的一种基于文本处理的异常事件分类方法，其特征在于，所述BERT模型基于原始的异常事件文本数据构建空间下一个时刻状态，进而得出如下方式：

式中，表示离散空间S_i在时刻T的状态；f表示剩余空间状态S_J对S_i的作用函数；g表示作用函数对S_i的影响；

根据离散空间的距离变化，得出如下方式：

S_i＝H(p_i，C_i)

式中，p_i表示空间位置状态；C_i表示空间内容状态；H表示组合信息的函数；进一步完成对空间的建模，在不同规模的数据集上比较BERT模型与文本的分类。