[发明专利]一种面向网络安全威胁情报的智能分类标签方法及系统

说明书

本发明提供了一种面向网络安全威胁情报的智能分类标签方法及系统。该方案包括对网络威胁相关的社交网络文本数据进行文本数据预处理，获取向量表示形式，并输入BERT预训练模型进行训练；进而利用前馈神经网络的全连接层和线性分类器，转化为和分类标签向量维度一致向量；根据交叉熵损失函数计算更新模型参数直至模型收敛，获得威胁情报分类模型；根据所述威胁情报分类模型对社交网络文本数据依次进行搜索、采集、预处理和分类标签，获得分类标签结果。本方案采用预训练模型学习文本数据的上下文语义信息和句子间关系，获取语义表征，生成的威胁情报分类模型准确率高，可提高训练效率，缩短直接模型训练时间。

技术领域

本发明涉及网络安全技术领域，更具体地，涉及一种面向网络安全威胁情报的智能分类标签方法及系统。

背景技术

网络安全威胁情报是与网络空间安全威胁相关的线索和证据。网络安全威胁情报可作为网络安全基础知识使用，包括网络安全的主体、主体涉及场景、机制、指标、影响和可执行的建议等信息。掌握网络安全威胁情报可以及时、有效提高针对网络攻击威胁的监测发现与应急响应能力。

在本发明之前，现有技术中主要采用神经网络对网络空间安全威胁的数据处理。循环神经网络可以产生记忆效应，适合处理自然语言类的序列数据。但是，由于梯度消失和梯度爆炸，当一个遥远序列传递到当前，梯度变得很小时，无法建立长期记忆，导致循环神经网络存在长程依赖的问题。长短时记忆网络是一种特殊的循环神经网络结构，包含输入门、遗忘门和输出门。长短时记忆网络通过门控机制可以建立较长的长距离时序依赖关系，有助于解决自然语言序列中的长程依赖问题。但如果直接使用神经网络对网络威胁相关的自然语言文本进行分类模型学习，通常需要大量的训练数据，由于网络威胁相关数据与不相关数据的不平衡问题，导致用于模型训练的数据量较为匮乏，容易导致学习过程的过拟合。因此，直接使用传统的模型，尚不能很好解决机器学习在威胁情报领域使用时有效训练样本的数据量小，且训练样本分布不均衡而导致的过拟合、模型准确度低的问题。

发明内容

鉴于上述问题，本发明提出了一种面向网络安全威胁情报的智能分类标签方法及系统，在预训练模型的基础上进行分类器训练，能够解决传统机器学习方法在应用到威胁情报分类领域时，由于有效训练样本的数据量小和训练样本分布不均衡而导致的过拟合、模型准确度低的问题。

在发明实施例的第一方面，提供可一种面向网络安全威胁情报的智能分类标签方法包括：

对网络威胁相关的社交网络文本数据进行文本数据预处理，生成预处理后社交网络文本数据；

根据所述预处理后社交网络文本数据，获取所述预处理后社交网络文本数据的向量表示形式，并保存为embedding向量；

将所述embedding向量输入BERT预训练模型进行训练，获得输出表征向量；

将所述输出表征向量输入前馈神经网络的全连接层和线性分类器，转化为和分类标签向量维度一致的最终向量表示；

根据交叉熵损失函数计算所述最终向量表示和分类标签向量真实值的交叉熵损失，更新模型参数直至模型收敛，获得威胁情报分类模型；

根据所述威胁情报分类模型对所述网络威胁相关的社交网络文本数据依次进行搜索、采集、预处理和分类标签，获得分类标签结果；

对所述分类标签结果进行信息抽取，并将抽取的分类信息推送给对应用户。

在一个或多个实施例中，优选地，所述对网络威胁相关的社交网络文本数据进行文本数据预处理，生成预处理后社交网络文本数据，具体包括：

将所述网络威胁相关的社交网络文本数据划分成若干个顺序固定的单个句子；

删除所有的所述单个句子中的特殊符号，保存为删除特殊符号的单个句子；